HUD dự kiến dùng AI rà soát chi tiêu tài trợ, giới nhà ở lo ngại

Điều gì đã xảy ra

Bộ Nhà ở và Phát triển Đô thị Hoa Kỳ (HUD) dự kiến triển khai một công cụ AI để rà soát mọi khoản thanh toán mà các đơn vị nhận tài trợ thực hiện, bắt đầu từ cuối tháng hiện tại. Thông tin này được FedScoop đưa tin.

Theo báo cáo, kế hoạch đã nhận được nhiều ý kiến lo ngại từ các chuyên gia về nhà ở và công nghệ. Hai trọng tâm chính là nguy cơ chính trị hóa quá trình xem xét chi tiêu và gánh nặng có thể phát sinh cho các đơn vị nhận tài trợ quy mô nhỏ.

Các thông tin hiện có chưa làm rõ phạm vi kiểm tra, cách hệ thống đánh dấu giao dịch cần xem xét hay quy trình phản hồi dành cho đơn vị nhận tài trợ. Vì vậy, các nhận định dưới đây chỉ dựa trên những gì đã được công bố.

Vì sao điều này quan trọng

Điểm đáng chú ý là AI đang được đưa vào một tác vụ vốn thường do con người thực hiện: rà soát từng khoản chi trả trong chương trình tài trợ công. Khi công nghệ có thể xử lý toàn bộ khối lượng thanh toán thay vì một mẫu chọn lọc, vai trò của giám sát tài chính công sẽ thay đổi. Các cơ quan khi đó cần làm rõ cách hệ thống nhận diện bất thường, ai là người xem xét lại kết quả và đơn vị được tài trợ có thể phản hồi như thế nào.

Với người nhận tài trợ, đặc biệt là các đơn vị nhỏ có ít nhân sự hành chính, mỗi lần bị đánh dấu có thể trở thành một trải nghiệm tốn kém về thời gian và nguồn lực. Chất lượng thiết kế quy trình, từ thông báo, giải thích lý do cho tới kênh khiếu nại, sẽ quyết định việc công nghệ này hỗ trợ hay gây cản trở những tổ chức phục vụ người dân. Các ý kiến về nguy cơ chính trị hóa cũng cho thấy niềm tin vào quy trình là một điều kiện không thể thiếu khi áp dụng AI trong quản lý công.

Quan điểm của Renascence

Đây là một ví dụ điển hình của quản trị dựa trên dữ liệu. Câu hỏi then chốt không nằm ở việc AI có hiệu quả hay không, mà ở việc người bị rà soát có hiểu vì sao mình được chọn và có đường lui nào không.

Phần lớn người đọc sẽ chú ý đến tốc độ và phạm vi kiểm tra toàn diện. Điều dễ bị bỏ qua là hiệu ứng tâm lý khi một đơn vị nhỏ bị "giám sát bằng máy", nơi một cảnh báo có thể bị hiểu như lời buộc tội. Nguyên tắc thiết kế dịch vụ ở đây là minh bạch về lý do và thời điểm can thiệp, để cảnh báo trở thành câu hỏi làm rõ thay vì phán xét. Một đơn vị vận hành lấy khách hàng làm trung tâm nên xây dựng sẵn quy trình giải thích, thời hạn phản hồi ngắn và bước xem xét của con người trước khi công nghệ đi vào vận hành.