Apple siết quy định App Store với ứng dụng 'nudify' tạo ảnh khỏa thân giả

Điều gì đã xảy ra

Apple đã cập nhật Nguyên tắc hướng dẫn App Store để cấm rõ ràng các ứng dụng "nudify", tức nhóm ứng dụng tạo ảnh khỏa thân giả từ hình ảnh của người thật. Theo TechCrunch, quy định mới cũng áp dụng với những ứng dụng che giấu chức năng thực sự để vượt qua quá trình duyệt.

Bản cập nhật không chỉ dựa vào việc kiểm duyệt trước khi ứng dụng được phát hành. Nhà phát triển được kỳ vọng phải tích hợp các cơ chế kiểm duyệt phòng ngừa ngay trong sản phẩm. Theo cách tiếp cận này, trách nhiệm ngăn chặn lạm dụng được chuyển một phần sang chính đội ngũ xây dựng ứng dụng, thay vì chỉ phụ thuộc vào bước rà soát của nền tảng.

Vì sao điều này quan trọng

Thay đổi này cho thấy các nền tảng số đang siết quản trị đối với nội dung do AI tạo ra và cách các ứng dụng được thiết kế để chạy trong thực tế. Khi công nghệ tạo hình ảnh ngày càng dễ tiếp cận, một ứng dụng có thể trông hợp lệ khi được duyệt nhưng lại hoạt động khác sau khi đưa vào sử dụng. Việc yêu cầu kiểm duyệt phòng ngừa ngay từ đầu phản ánh nhận thức rằng rà soát tại cửa vào là chưa đủ.

Với các lãnh đạo về trải nghiệm, AI và chuyển đổi số, điểm đáng chú ý là niềm tin của người dùng và an toàn trên nền tảng là một phần của chất lượng dịch vụ. Người dùng trải nghiệm một sản phẩm số thông qua toàn bộ hành trình, từ lúc tải về, tạo nội dung, báo cáo sự cố cho đến khi nhận được phản hồi. Những yếu tố này cần được thiết kế như một hệ thống thống nhất chứ không tách rời.

Quan điểm của Renascence

Đây là một tín hiệu đáng để các tổ chức số lưu ý, bất kể họ có phát triển ứng dụng hay không. Điều thường bị bỏ qua là rà soát trước khi phát hành chỉ kiểm soát được những gì nhìn thấy được, trong khi rủi ro thực sự nằm ở chức năng được che giấu và cách người dùng sử dụng sản phẩm sau đó.

Một cổng kiểm duyệt dễ bị qua mặt khi sản phẩm được thiết kế để trông vô hại. Vấn đề cốt lõi là hành vi sử dụng và các điểm ma sát được đặt ở đâu trong hành trình người dùng. Các đội ngũ đang xây dựng sản phẩm AI nên lập bản đồ những con đường có thể bị lạm dụng, đặt rào cản đúng thời điểm và làm cho việc báo cáo trở nên dễ dàng. Đó là cách bảo vệ người dùng bền vững hơn so với việc chỉ dựa vào bước duyệt.