OpenAI thêm đóng dấu chìm cho văn bản ChatGPT và Codex

Điều gì đã xảy ra

OpenAI đang triển khai tính năng đóng dấu chìm (watermark) vô hình, có thể đọc bằng máy, vào đầu ra văn bản của ChatGPT và Codex. Giai đoạn đầu, tính năng chỉ dành cho người dùng tại Liên minh châu Âu, theo báo cáo của The Verge.

OpenAI cho rằng công nghệ textGrain của hãng đạt hiệu quả "tương đương hoặc vượt trội" so với các phương pháp khác, trong đó có SynthID của Google DeepMind dành cho văn bản. Nguồn tin cũng nhắc rằng SynthID là nền tảng cho giải pháp đóng dấu nội dung mà Anthropic công bố vào tháng 8. Bản tóm tắt được cung cấp chưa nêu đầy đủ chi tiết về cách các hãng khác triển khai, nên các so sánh chỉ nên được hiểu ở mức đó.

Vì sao điều này quan trọng

Đây là một thay đổi về cách nội dung do AI tạo ra được truy vết và nhận diện. Khi văn bản được đóng dấu ở cấp độ kỹ thuật, các tổ chức có thể xác minh nguồn gốc nội dung mà không cần người dùng phải tự nhận biết bằng mắt thường. Với doanh nghiệp, điều này làm thay đổi cả quy trình vận hành lẫn cách xây dựng niềm tin với khách hàng.

Việc triển khai theo từng khu vực, bắt đầu từ châu Âu, cho thấy các nền tảng AI có thể phải điều chỉnh tính năng theo yêu cầu địa phương. Đội ngũ dịch vụ khách hàng và thiết kế trải nghiệm sẽ cần xác định khi nào nội dung được gắn nhãn, nhãn đó hiển thị ra sao và người dùng được giải thích thế nào về một tính năng không nhìn thấy được.

Quan điểm của Renascence

Điểm đáng chú ý nhất không nằm ở kỹ thuật mà ở nghịch lý về tính minh bạch. Một dấu hiệu vô hình có thể bảo vệ tốt hơn trước việc lạm dụng, nhưng người dùng chỉ tin vào thứ họ có thể nhìn thấy và hiểu được. Theo nguyên tắc thiết kế hành vi, niềm tin không đến từ việc hệ thống có ẩn điều gì đó hay không, mà từ việc người dùng có được cung cấp đủ thông tin đúng lúc để tự đánh giá hay không.

Đóng dấu vô hình là lớp bảo vệ cho hệ thống, nhưng chưa phải là sự minh bạch dành cho khách hàng. Một tổ chức nghiêm túc về trải nghiệm nên xem đây là bài toán thiết kế: cần quyết định người dùng sẽ được thông báo gì, vào thời điểm nào và bằng ngôn ngữ nào. Hãy kiểm thử xem nhãn có thực sự làm người dùng hiểu hơn hay chỉ thêm một dòng chữ không ai đọc. Nếu câu trả lời là không, thì đó là dấu hiệu cho thấy cần thiết kế lại cách giao tiếp.