İngiltere demiryolu yüz tanıma pilotu: 320 bin sterlin, sıfır eşleşme

Ne oldu?

İngiltere'de British Transport Police, demiryolu ağında altı aylık bir canlı yüz tanıma pilotu yürüttü. Bu pilotun maliyeti yaklaşık 320.000 sterlin oldu ve yalnızca bir uyarı üretti. Söz konusu uyarı bir yanlış pozitif olarak değerlendirildi; doğrulanmış hiçbir gerçek eşleşme kaydedilmedi.

The Register'ın aktardığına göre sonuç, kamu kurumlarının yapay zekâ destekli izleme araçlarını değerlendirirken maliyet ve performansı birlikte okumasının önemini ortaya koyuyor. Haberin özetinde sistemin hangi istasyonlarda, hangi koşullarda ve hangi ölçütlerle çalıştığına dair ayrıntılı bilgi yer almıyor. Dolayısıyla yorumlar yalnızca açıklanan sonuçlar üzerinden yapılmalıdır.

Neden önemli?

Bu haber, yapay zekâ destekli yüz tanımanın kamusal hizmetlerde nasıl değerlendirildiğine dair somut bir örnek sunuyor. Teknolojinin yeteneği kadar, bir kurumun başarıyı nasıl tanımladığı da kritik. Sıfır doğrulanmış eşleşme, sistemin hiçbir şey yapmadığı anlamına gelmeyebilir; ancak yatırım getirisini tartmak için hangi çıktıların ölçüldüğünü ve bunların ne kadara mal olduğunu bilmek gerekir.

Dijital dönüşüm yapan kuruluşlar için ders, yeni bir teknolojiyi devreye almadan önce başarı ölçütlerini, hata oranlarını ve sonuçları nasıl raporlayacaklarını netleştirmektir. Yanlış pozitif gibi ara sonuçlar, insanların deneyimini doğrudan etkiler: gerçekte bir şey yapmamış bir yolcu için bu durum, sürecin görünmeyen bir maliyetidir.

Rakamlarla

• Yaklaşık 320.000 sterlin: Altı aylık pilotun bildirilen maliyeti.
• Altı ay: Canlı yüz tanıma uygulamasının süresi.
• 1: Pilot boyunca üretilen tek uyarı; bu uyarı yanlış pozitif olarak nitelendi.
• 0: Doğrulanmış gerçek eşleşme sayısı.

Renascence görüşü

Çoğu okuyucu manşetteki “sıfır eşleşme” ifadesine odaklanacak. Oysa asıl soru, sonucun ne kadara mal olduğu ve bu sonucun hangi karar süreçlerine dönüştüğüdür.

Sıfır eşleşme, bir ölçüm sonucudur; başarısızlık olarak okunmadan önce hangi hedefe bakıldığı netleştirilmelidir. Yanlışlıkla işaretlenen her birey, insanların kayıp hissine yüksek ağırlık verdiği bir deneyim yaşar ve bu güveni aşındırır. Bu nedenle kamu ve özel operatörler, pilotlardan önce başarı tanımını, hata yollarını ve sonuçları paylaşma taahhüdünü yazılı olarak belirlemelidir. Müşteri odaklı bir kurum için doğru soru “teknoloji çalışıyor mu?” değil, “bu deneyimin bedelini kim ödüyor ve buna değer mi?” olmalıdır.