Anthropic lindungi infrastruktur kritikal dan perisian sumber terbuka

Apa yang berlaku

Anthropic telah melancarkan satu inisiatif untuk membantu melindungi infrastruktur kritikal dan perisian sumber terbuka daripada serangan yang didorong oleh AI. Syarikat itu memberi amaran bahawa penyerang mungkin mempunyai kelebihan selama lebih kurang dua tahun akan datang.

Laporan ini disiarkan oleh The Register dan memfokuskan pada risiko yang timbul apabila keupayaan AI digunakan untuk menyerang sistem yang menyokong perkhidmatan harian. Sumber yang tersedia tidak menyatakan butiran lanjut mengenai skop, rakan kerjasama atau mekanisme inisiatif tersebut, jadi laporan ini hanya merangkum apa yang telah diumumkan.

Mengapa ia penting

Bagi pemimpin dalam pengalaman, AI dan transformasi digital, pengumuman ini menunjukkan bahawa ancaman keselamatan siber kini dibentuk semula oleh alat AI. Organisasi yang mengendalikan utiliti, pengangkutan, kewangan dan platform digital awam bergantung pada perisian sumber terbuka dan sistem kritikal yang sama. Jika penyerang didakwa mempunyai kelebihan dalam tempoh tertentu, pasukan operasi perlu menilai semula kepantasan pengesanan, pemulihan dan komunikasi mereka.

Dari sudut pengalaman pelanggan, gangguan kepada perkhidmatan kritikal sering dirasai sebagai kehilangan kepercayaan, bukan sekadar masalah teknikal. Cara sesebuah organisasi menyampaikan risiko dan langkah pemulihan boleh menentukan sama ada pengguna kekal yakin atau beralih kepada alternatif.

Pendirian Renascence

Perbincangan mengenai keselamatan AI sering tertumpu pada teknologi itu sendiri. Pada pandangan kami, perkara yang lebih penting ialah cara kepercayaan dibina dan dipertahankan apabila sistem gagal.

Kebanyakan pembaca mungkin melihat ini sebagai isu teknikal untuk pasukan keselamatan siber semata-mata. Hakikatnya, tempoh kelebihan penyerang ialah tempoh di mana pengguna akhir menentukan sama ada mereka percaya kepada perkhidmatan anda. Prinsip reka bentuk perkhidmatan yang mendasarinya ialah kejelasan dan kepantasan komunikasi semasa ketidaktentuan, bukan kesempurnaan sistem. Pemimpin yang berorientasikan pelanggan harus mengadakan pelan tindak balas insiden yang dapat dijelaskan dengan ringkas kepada pelanggan, dan menguji laluan itu sebelum krisis berlaku.