Sam Altman, Dario Amodei: con người phải ở trung tâm quyết định AI

Diễn biến chính

Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei đã phát biểu trước Hội đồng Bảo an Liên Hợp Quốc tại New York, khẳng định con người phải tiếp tục là trung tâm của quá trình ra quyết định liên quan đến AI. Theo The National, đây là thông điệp chung của hai doanh nghiệp phát triển AI hàng đầu trước một diễn đàn quốc tế cấp cao.

Ông Altman cũng cho rằng không nên đi quá xa theo hướng điều chỉnh bằng quy định pháp lý, đồng thời ủng hộ một số tiêu chuẩn quốc tế. Nguồn tin hiện có chỉ tập trung vào lập trường của hai lãnh đạo, chưa đề cập đến các cam kết cụ thể hay lộ trình thực thi.

Vì sao điều này quan trọng

Đây là một tín hiệu về cách các nhà phát triển AI định vị vai trò của con người trong các hệ thống tự động hóa. Khi những người đứng đầu ngành đồng thuận rằng con người cần giữ vai trò quyết định, các tổ chức sử dụng AI trong dịch vụ, tài chính hay y tế có thể sẽ phải xác định rõ ai chịu trách nhiệm cho từng quyết định và khi nào con người có quyền can thiệp.

Với lãnh đạo trong lĩnh vực trải nghiệm khách hàng và chuyển đổi số, câu hỏi về tiêu chuẩn quốc tế và mức độ quản trị phù hợp sẽ ảnh hưởng trực tiếp đến thiết kế quy trình, cơ chế giám sát và niềm tin của người dùng đối với dịch vụ dựa trên AI.

Quan điểm của Renascence

Việc khẳng định "con người ở trung tâm" nghe có vẻ hiển nhiên, nhưng trong thực tế, vai trò đó thường bị bỏ qua khi quy trình đã được tự động hóa.

Điều đáng chú ý không nằm ở lời khẳng định mà ở vị trí con người thực sự được đặt trong quy trình. Hiệu ứng thiên lệch tự động hóa khiến người vận hành dễ chấp nhận đề xuất của hệ thống mà ít kiểm tra, nên một bước phê duyệt chỉ mang tính hình thức sẽ không tạo ra giám sát thực chất. Doanh nghiệp nên lập bản đồ từng điểm quyết định, xác định rõ quyền ghi đè của nhân viên và đo lường xem con người có thực sự thay đổi kết quả hay không. Nếu không đo được điều đó, "con người ở trung tâm" chỉ là khẩu hiệu.