Yapay zekâ sistemleri siber saldırılara en açık alanlar: PwC raporu

Ne oldu?

PwC'nin yeni raporuna göre iş liderleri, yapay zekâ sistemlerine yönelik saldırılara geleneksel siber tehditlere kıyasla daha az hazırlıklı hissediyor. Finextra'nın aktardığına göre rapor, yapay zekânın benimsenme hızının modelleri ve verileri koruma yatırımlarının önüne geçtiğini ortaya koyuyor.

Bulgu, kuruluşların yapay zekâyı iş süreçlerine hızla eklemesine karşın bu sistemlerin güvenliğine aynı ölçüde kaynak ayırmadığına işaret ediyor. Liderlerin en az hazır hissettikleri alan, modellerin kendisini ve bu modellerin işlediği verileri hedef alan saldırılar. Yani sorun yalnızca bilinen tehdit türlerinin artması değil, korunması gereken varlık türünün değişmesi.

Raporun öne çıkardığı tablo, yapay zekâ güvenliğinin hâlâ geleneksel siber güvenlik başlıklarının gerisinde kaldığını gösteriyor. Bu durum, kurumların hangi sistemlerin en çok risk taşıdığını yeniden değerlendirmesi gerektiğine dair bir uyarı niteliği taşıyor.

Neden önemli?

Yapay zekâ artık müşteri hizmetlerinden operasyonel karar almaya kadar pek çok alanda devreye giriyor. Bu sistemler bir şeyi daha hızlı yapabildiği ölçüde, bozulduğunda ya da manipüle edildiğinde etkisi de büyüyor. Bir sohbet asistanına yönelik saldırı, yanıtların güvenilirliğini zedeleyebilir; bu da doğrudan müşteri deneyimine ve marka güvenine yansır.

Dijital dönüşüm programları için bu, güvenliğin sonradan eklenen bir katman olarak değil, tasarımın baştan parçası olarak ele alınması gerektiği anlamına geliyor. Modelin hangi veriyle eğitildiği, hangi yetkilerle çalıştığı ve çıktılarının nasıl izlendiği, operasyon modelinin bir parçası hâline geliyor.

Renascence'ın değerlendirmesi

Bu haber, yapay zekâ güvenliğini yalnızca teknik ekiplerin meselesi olarak görmenin ne kadar riskli olduğunu gösteriyor. Asıl sorun, güvenlik açığının kullanıcıya görünmez olması.

Çoğu okur, bu tür açıkların genellikle bir teknik hata olarak kaldığını varsayacak. Oysa bir yapay zekâ sistemi manipüle edildiğinde, kullanıcı bunu fark etmeden yanlış bilgi ya da yanlış yönlendirme alabilir; bu da güveni sessizce aşındırır. Davranışsal ekonomi açısından, insanlar bir hatayı fark etmedikleri sürece hizmete duydukları güveni çoğu zaman korumaya devam eder, bu da riski artırır. Müşteri odaklı bir operatörün yapması gereken, yapay zekâ çıktılarının kullanıcıya nasıl sunulduğunu, hangi noktalarda insan denetimi olduğunu ve bir şeyin ters gittiğinde nasıl fark edileceğini hizmet tasarımının bir parçası olarak ele almaktır.