OpenAI tambah watermark teks dalam ChatGPT dan Codex

Apa yang berlaku

OpenAI sedang memperkenalkan watermark teks yang tidak kelihatan dan boleh dibaca mesin dalam output ChatGPT dan Codex. Pada peringkat awal, ciri ini hanya tersedia untuk pengguna di Kesatuan Eropah.

Menurut OpenAI, teknologi penandaan teks yang dinamakan textGrain menyamai atau mengatasi pendekatan lain, termasuk SynthID daripada Google DeepMind untuk teks. The Verge melaporkan bahawa SynthID juga menjadi asas kepada penandaan yang diumumkan Anthropic pada Ogos. Menurut laporan tersebut, Anthropic turut bergerak ke arah pendekatan yang serupa dengan OpenAI.

Mengapa ia penting

Bagi platform AI, asal-usul kandungan kini semakin menjadi sebahagian daripada produk itu sendiri. Watermark yang tertanam dalam teks membolehkan organisasi dan platform lain mengenal pasti kandungan yang dijana AI tanpa bergantung pada label yang boleh dibuang atau diubah. Ini mengubah cara kepercayaan dibina dalam perkhidmatan digital, termasuk dalam jabatan komunikasi, perkhidmatan pelanggan dan operasi kandungan.

Pelancaran yang bermula di Eropah juga memberi isyarat bahawa reka bentuk produk AI semakin dipengaruhi oleh keperluan pematuhan serantau. Organisasi yang menggunakan AI generatif perlu bersedia untuk menguruskan kandungan dengan pelbagai lapisan penandaan merentasi alat dan penyedia yang berbeza.

Pandangan Renascence

Perbincangan biasanya tertumpu pada sama ada watermark boleh mengesan kandungan AI, tetapi isu yang lebih penting ialah pengalaman pengguna. Penanda yang tidak kelihatan mengurangkan geseran kerana pengguna tidak perlu melakukan apa-apa, namun ia juga bermaksud pengguna tidak tahu bahawa kandungan mereka sedang ditandakan. Prinsip reka bentuk tingkah laku di sini ialah ketelusan yang bermakna perlu dibina sebagai sebahagian daripada aliran kerja, bukan sebagai kejutan yang tersembunyi.

Kebanyakan pembaca akan fokus pada sama ada watermark ini berfungsi, tetapi soalan sebenar ialah sama ada pelanggan dan pekerja faham apa yang sedang berlaku kepada kandungan mereka. Pemimpin pengalaman yang serius patut menyemak sekarang di mana kandungan AI masuk ke dalam saluran mereka dan apa yang dilihat oleh pengguna pada setiap titik. Jika jawapannya tidak jelas, kepercayaan akan terhakis lebih cepat daripada yang dijangka. Bertindaklah sebelum penanda ini menjadi jangkaan standard.