Watermark AI của Anthropic có lỗ hổng trên hai mô hình Claude

Điều đã xảy ra

Anthropic đang mở rộng cơ chế watermark dạng văn bản sang thêm bốn mô hình Claude nữa. Tuy nhiên, theo báo cáo của The Decoder, các nhà phát triển có thể vô hiệu hóa watermark trên Claude Opus 4.6 và Claude Sonnet 4.6 chỉ bằng cách thay đổi một tham số lấy mẫu (sampling parameter).

Điểm đáng chú ý là lỗ hổng nằm ở hai mô hình thế hệ trước, trong khi việc triển khai rộng hơn vẫn đang diễn ra. Với một bên cung cấp mô hình AI có quy mô lớn, khoảng cách giữa cam kết bảo vệ nội dung và cách hệ thống thực sự vận hành đã trở thành vấn đề cần theo dõi sát.

Đây là thông tin từ một nguồn báo chí duy nhất. Chúng tôi chưa đối chiếu được chi tiết kỹ thuật cụ thể hay phản hồi chính thức từ Anthropic về lỗ hổng này.

Vì sao điều này quan trọng

Watermark là một phần của nỗ lực giúp các tổ chức và người dùng xác định nội dung do AI tạo ra. Khi một cơ chế như vậy có thể bị bỏ qua bằng một thay đổi cấu hình nhỏ, niềm tin vào nội dung được đánh dấu sẽ suy giảm, kể cả khi đa số người dùng không bao giờ chạm tới tham số đó.

Với các doanh nghiệp đang tích hợp Claude vào dịch vụ khách hàng, quy trình nội bộ hay hệ thống tự động hóa, điều này đặt ra câu hỏi về cách thiết kế quản trị AI: liệu công cụ kiểm soát có được xây dựng để chống lại việc cấu hình sai, hay chỉ phụ thuộc vào hành vi tuân thủ của nhà phát triển.

Những con số đáng chú ý

• 4 mô hình mới được bổ sung vào phạm vi áp dụng watermark dạng văn bản.
• 2 mô hình (Claude Opus 4.6 và Claude Sonnet 4.6) được ghi nhận là có thể bị vô hiệu hóa watermark.
• 1 tham số lấy mẫu là yếu tố đủ để thay đổi hành vi của cơ chế này, theo báo cáo.

Góc nhìn của Renascence

Phần lớn người đọc sẽ chú ý đến tiêu đề về lỗ hổng. Nhưng điều đáng suy nghĩ hơn là một cơ chế bảo vệ chỉ đáng tin khi người dùng không cần phải hiểu cấu hình để tin tưởng nó. Trong thiết kế trải nghiệm, các kiểm soát quan trọng nên là mặc định an toàn, không phải tùy chọn nằm trong tầng kỹ thuật.

Một watermark có thể bị tắt bằng một tham số là dấu hiệu cho thấy bảo vệ đang được đặt ở lớp sai. Nguyên tắc thiết kế hành vi ở đây là làm cho hành vi an toàn trở thành con đường dễ đi nhất. Doanh nghiệp đang triển khai AI nên kiểm thử xem các kiểm soát của mình có thể bị bỏ qua trong thực tế hay không, thay vì chỉ dựa vào cam kết của nhà cung cấp. Và nếu nội dung do AI tạo ra ảnh hưởng đến khách hàng, hãy minh bạch về cách bạn xác minh nó.