Scale AI bị khiếu nại vì nghi theo dõi cộng tác viên gán nhãn dữ liệu

Điều đã xảy ra

Tổ chức vận động quyền riêng tư noyb đã nộp năm khiếu nại tại bốn quốc gia thành viên EU, cáo buộc Scale AI theo dõi các cộng tác viên làm việc trên nền tảng gán nhãn dữ liệu Outlier. Theo The Register, đây là cáo buộc về việc giám sát người lao động phụ trợ cho chuỗi cung ứng AI, chứ chưa phải một kết luận đã được chứng minh.

Các cáo buộc hiện chưa được kiểm chứng và chưa có cơ quan quản lý nào xem xét. Scale AI chưa được ghi nhận có phản hồi công khai trong phạm vi bản tin này, nên mọi nhận định về mức độ đúng sai vẫn cần chờ quy trình pháp lý.

Câu chuyện nổi lên trong bối cảnh các doanh nghiệp AI phụ thuộc nhiều vào lực lượng cộng tác viên gán nhãn dữ liệu, những người thường làm việc từ xa thông qua nền tảng số và chịu sự quản lý của hệ thống.

Vì sao điều này quan trọng

Từ góc độ công nghệ, vụ việc cho thấy chất lượng của các mô hình AI phụ thuộc không chỉ vào thuật toán mà còn vào cách tổ chức và đối xử với lực lượng lao động đứng sau dữ liệu. Khi nền tảng số có khả năng ghi nhận hành vi của người làm việc, ranh giới giữa công cụ quản lý chất lượng và giám sát cá nhân trở nên khó nhận diện hơn, đặc biệt với lao động hợp đồng.

Với các lãnh đạo trong lĩnh vực trải nghiệm và chuyển đổi số, điểm đáng chú ý là niềm tin của người lao động cũng là một phần của trải nghiệm dịch vụ. Nếu cộng tác viên không hiểu dữ liệu nào đang được thu thập và vì mục đích gì, rủi ro uy tín có thể lan sang chính sản phẩm AI mà doanh nghiệp đang cung cấp.

Những con số chính

• 5 khiếu nại được noyb nộp lên cơ quan có thẩm quyền.
• 4 quốc gia thành viên EU nơi các khiếu nại được đệ trình.

Góc nhìn của Renascence

Phần lớn độc giả sẽ tập trung vào tên tuổi lớn trong câu chuyện, nhưng điều đáng suy nghĩ hơn là cấu trúc: một chuỗi giá trị AI được xây dựng trên lao động linh hoạt, nơi việc giám sát có thể được thiết kế như một tính năng vận hành mà không ai thực sự cân nhắc dưới góc nhìn của người bị giám sát. Nguyên tắc hành vi nằm bên dưới là sự minh bạch có thể dự đoán được: khi người tham gia biết rõ điều gì được ghi nhận, họ có xu hướng tin tưởng hệ thống hơn là khi phải tự đoán.

Đừng coi sự giám sát là chi tiết kỹ thuật của nền tảng dữ liệu; hãy coi nó là một điểm chạm trải nghiệm với cộng tác viên. Một tổ chức thực sự lấy khách hàng làm trung tâm sẽ tự hỏi người lao động đứng sau dữ liệu hiểu gì về việc mình đang bị ghi nhận, và họ có quyền lựa chọn ra sao. Hãy kiểm toán luồng dữ liệu hành vi theo góc nhìn của người tham gia, công bố rõ ràng những gì được thu thập, và thiết kế quyền từ chối như một phần của dịch vụ chứ không phải thủ tục tuân thủ. Làm được điều đó trước khi có phán quyết, bạn sẽ có lợi thế về niềm tin hơn đối thủ chờ đợi.