Yapay zekâ ajanlarında sorumluluk: ABD'de yeni kanun teklifi

Ne oldu

ABD Temsilciler Meclisi'ne sunulan bir kanun teklifi, otonom yapay zekâ ajanlarının neden olduğu zararlarda geliştiricilerin sorumluluğunu netleştirmeyi amaçlıyor. Teklife göre, bir insanın gerçekleştirmesi hâlinde yasa dışı sayılacak bir eylemi bir yapay zekâ ajanı yaparsa, geliştirici sorumlu tutulabilecek.

Teklifin dikkat çeken yönü, yapay zekâya özgü yeni bir kurallar bütünü getirmek yerine mevcut hukuki standartları uygulamaya dayanması. Yani ajanların eylemleri için ayrı bir düzenleme çerçevesi kurmak yerine, halihazırdaki yasal ölçütlerin bu sistemlere de uygulanması hedefleniyor.

CIO Dive'ın haberine göre bu gelişme, özerk hareket edebilen yapay zekâ sistemlerinin hesap verebilirliği konusunda politika tartışmalarının somutlaştığını gösteriyor. Kaynaklarda teklifin ne zaman görüşüleceği ya da kabul edilme olasılığına dair bir bilgi yer almıyor.

Neden önemli

Ajanlar, iade işlemleri, rezervasyonlar veya hesap değişiklikleri gibi müşteri adına eylemler gerçekleştirmeye başladıkça, bir hatanın kimin sorumluluğunda olduğu sorusu deneyimin merkezine yerleşiyor. Sorumluluğun kime ait olduğu netleşmeden, kurumların hangi işlemleri ajanlara devredeceğine karar vermesi zorlaşır.

Teklifin mevcut standartlara dayanması, liderler için bir sinyal olarak da okunabilir: Bir ajanın yaptığı işlem, bir çalışanın yapması hâlinde nasıl değerlendirilecekse, öyle değerlendirilebilir. Bu da dijital dönüşüm programlarında ajan tasarımını, denetim kayıtlarını ve insan müdahalesi süreçlerini baştan düşünmeyi zorunlu kılıyor.

Renascence görüşü

Çoğu okuyucu bu haberi hukuki bir tartışma olarak görecek. Oysa asıl tasarım sorusu, müşterinin bir ajanın hatasıyla karşılaştığında kime, hangi kanaldan ve hangi hızla ulaşabileceği.

Hesap verebilirlik sözleşme metinlerinde değil, etkileşimin içinde görünür olmalı. Müşteri, bir ajanın neyi yapabileceğini, yaptığı işlemin kaydını ve itiraz için açık bir insan yolunu hemen görebilmeli. Bugünden itibaren ajanlarınızın yetkilerini bir çalışanın yetki matrisi kadar net tanımlayın, her eylemi kayda alın ve hatalarda kolay bir geri dönüş yolu sunun. Güven, yasa metninden önce bu ayrıntılarla kazanılır.