DHS Mỹ: chính sách AI cho phép miễn trừ quy tắc cấm

Điều gì đã xảy ra

Theo FedScoop, chính sách AI được cập nhật của Bộ An ninh Nội địa Mỹ (DHS) cho phép Giám đốc AI của bộ miễn trừ bất kỳ yêu cầu nào, kể cả các quy định về những hành vi sử dụng bị cấm. Điểm này thu hút sự quan ngại từ giới chuyên gia.

Thay đổi nằm trong cách DHS quản trị việc triển khai trí tuệ nhân tạo trong hoạt động của cơ quan. Việc trao cho một vị trí lãnh đạo thẩm quyền miễn trừ cả các ràng buộc được xác định là "cấm" cho thấy cơ chế kiểm soát nội bộ đang được điều chỉnh theo hướng trao thêm quyền quyết định cho người đứng đầu.

Các nguồn tin hiện có chưa nêu chi tiết về quy trình phê duyệt miễn trừ, phạm vi áp dụng cụ thể hay cơ chế giám sát đi kèm.

Vì sao điều này quan trọng

Với khu vực công, một chính sách AI hiệu quả thường dựa trên ba nền tảng: ranh giới rõ ràng, trách nhiệm giải trình và khả năng kiểm toán. Khi quy tắc về hành vi bị cấm có thể được miễn trừ bởi một cá nhân, câu hỏi về việc ai chịu trách nhiệm khi hệ thống AI được dùng ngoài phạm vi ban đầu trở nên quan trọng hơn. Đây chính là điểm mà giới chuyên gia đang nêu quan ngại.

Với người dân và các đối tác khi sử dụng dịch vụ công có ứng dụng AI, niềm tin phụ thuộc lớn vào việc họ hiểu AI đang được dùng như thế nào và có những giới hạn nào. Tin này cho thấy quản trị AI trong chính phủ không chỉ là vấn đề pháp lý, mà còn là một phần của thiết kế trải nghiệm dịch vụ và chuyển đổi số trong vận hành.

Góc nhìn của Renascence

Phần lớn người đọc sẽ chú ý đến tiêu đề về quyền miễn trừ, nhưng điều đáng bàn hơn là cấu trúc ra quyết định: ai có quyền thay đổi luật chơi, và thay đổi đó được ghi nhận và truyền đạt ra sao.

Trong thiết kế dịch vụ, một ngoại lệ không được ghi nhận rõ ràng sẽ trở thành lỗ hổng niềm tin: nhân viên không biết khi nào được phép đi tắt, còn người dân không biết mình đang được bảo vệ bởi quy tắc nào. Nguyên tắc nền tảng ở đây là "ngoại lệ có chủ đích", tức mọi lần miễn trừ phải có lý do, được ghi lại và có thể truy vết. Một nhà vận hành nghiêm túc về trải nghiệm nên tự hỏi: nếu cơ chế miễn trừ tồn tại, hệ thống có đủ nhật ký để chứng minh nó được dùng đúng mục đích hay không? Nếu câu trả lời là không, đó là vấn đề thiết kế dịch vụ trước khi là vấn đề chính sách.