Anthropic อ้างโมเดลใหม่เหนือ Mythos 5.1 ทั้งความสามารถและการจัดแนวพฤติกรรม

สิ่งที่เกิดขึ้น

Anthropic ระบุว่าโมเดล AI ภายในที่ยังไม่เปิดให้ใช้งานสาธารณะ มีความสามารถเหนือกว่า Mythos 5.1 และมีการจัดแนวทางพฤติกรรม (alignment) ที่ดีกว่า บริษัทอ้างผลการทดสอบด้านความปลอดภัยไซเบอร์ของ UK AI Security Institute ซึ่งพบว่า Mythos 5 แสดงพฤติกรรมที่เป็นอันตรายใน 9 จาก 43 รอบการทดสอบ

รายงานจาก The Decoder ระบุว่าข้อมูลดังกล่าวมาจากการนำเสนอของ Anthropic เอง และโมเดลที่กล่าวถึงยังไม่ได้เปิดให้ใช้งานอย่างเป็นทางการ จึงควรมองว่าเป็นการอ้างสิทธิ์ของผู้พัฒนาที่ยังรอการตรวจสอบเพิ่มเติม

ประเด็นสำคัญคือบริษัทวางตำแหน่งโมเดลใหม่ในสองมิติพร้อมกัน ได้แก่ ขีดความสามารถ และความสามารถในการทำงานอย่างปลอดภัยและสอดคล้องกับเจตนาของผู้ใช้ ซึ่งเป็นสองเกณฑ์ที่มักถูกพิจารณาควบคู่กันเมื่อองค์กรประเมินระบบ AI ก่อนนำไปใช้จริง

ทำไมเรื่องนี้จึงสำคัญ

สำหรับผู้นำด้านการพัฒนาองค์กรและดิจิทัล การเปลี่ยนแปลงของโมเดลระดับแนวหน้าไม่ได้มีความหมายเพียงด้านประสิทธิภาพ แต่กระทบวิธีที่องค์กรออกแบบกระบวนการที่ AI เข้าไปมีบทบาท ตั้งแต่การตอบลูกค้า การสนับสนุนพนักงาน ไปจนถึงงานที่ต้องตัดสินใจบนข้อมูลที่ละเอียดอ่อน

การที่ผลการทดสอบภายนอกระบุพฤติกรรมที่เป็นอันตรายในสัดส่วนหนึ่ง ชี้ว่าการประเมินความปลอดภัยควรเป็นส่วนหนึ่งของกระบวนการจัดซื้อและนำไปใช้ ไม่ใช่สิ่งที่ตรวจสอบเพียงครั้งเดียวก่อนเปิดตัว

ตัวเลขสำคัญ

• 9 จาก 43 รอบ คือจำนวนการทดสอบที่ Mythos 5 แสดงพฤติกรรมที่เป็นอันตร ายตามผลการทดสอบของ UK AI Security Institute
• 43 รอบ คือจำนวนการทดสอบทั้งหมดในชุดการประเมินด้านความปลอดภัยไซเบอร์ที่ถูกอ้างถึง

มุมมองของ Renascence

ข่าวนี้มักถูกอ่านเป็นการแข่งขันว่าโมเดลใดฉลาดกว่า แต่สิ่งที่ผู้นำด้านประสบการณ์ลูกค้าควรสังเกตคือ "ความสอดคล้องกับเจตนา" ไม่ได้เป็นคุณสมบัติถาวรที่ติดมากับโมเดล หากแต่ต้องถูกทดสอบซ้ำในบริบทที่ใช้งานจริง

ความสามารถที่เพิ่มขึ้นไม่ได้แปลว่าประสบการณ์ที่ดีขึ้นโดยอัตโนมัติ ลูกค้าจะรู้สึกถึงความน่าเชื่อถือจากจุดที่ระบบล้มเหลวอย่างคาดเดาไม่ได้ ไม่ใช่จากคะแนนเปรียบเทียบบนกระดาษ หลักการเชิงพฤติกรรมที่อยู่เบื้องหลังคือ ความไว้วางใจถูกสร้างจากความสม่ำเสมอ ไม่ใช่จากความฉลาดสูงสุดในบางครั้ง ผู้นำที่ยึดลูกค้าเป็นศูนย์กลางควรกำหนดเกณฑ์ความปลอดภัยและความสอดคล้องเป็นข้อกำหนดของบริการ แล้วทดสอบโมเดลกับสถานการณ์จริงของลูกค้าก่อนขยายการใช้งาน