Microsoft วางแผนขยายแร็ค Azure Maia AI รุ่นถัดไประดับหลายกิกะวัตต์

สิ่งที่เกิดขึ้น

Microsoft วางแผนขยายการใช้งานแร็คชิปเร่งประมวลผล AI รุ่นถัดไปในชุด Azure Maia ในระดับหลายกิกะวัตต์ โดยคาดว่าจะเริ่มนำไปใช้งานจริงในศูนย์ข้อมูลภายในปี 2027 ตามรายงานของ The Register

รายงานระบุว่าการตั้งค่าของแร็คชุดใหม่ใช้ชิปจำนวน 96 ตัว และอ้างว่าให้ปริมาณการประมวลผลโทเค็น (token throughput) สูงกว่ารุ่นก่อนหน้าถึงเจ็ดเท่า ตัวเลขนี้เป็นคำกล่าวอ้างที่ถูกนำเสนอในรายงาน จึงยังต้องรอข้อมูลเพิ่มเติมเพื่อยืนยันผลในการใช้งานจริง

ประเด็นที่โดดเด่นที่สุดคือขนาดของแผน การวัดเป็นกิกะวัตต์บ่งชี้ว่าเป็นการลงทุนด้านโครงสร้างพื้นฐานระดับใหญ่ ไม่ใช่การเปิดตัวฮาร์ดแวร์รุ่นใหม่เพียงชุดเล็กๆ

ทำไมเรื่องนี้จึงสำคัญ

สำหรับผู้นำด้าน AI และการtransformation ดิจิทัล เรื่องนี้แสดงให้เห็นว่าความสามารถในการประมวลผลกำลังเป็นปัจจัยที่กำหนดว่าองค์กรจะให้บริการ AI แก่ผู้ใช้ได้มากและเร็วเพียงใด เมื่อปริมาณโทเค็นต่อแร็คเพิ่มขึ้น องค์กรที่พัฒนาผลิตภัณฑ์หรือบริการบนโครงสร้างพื้นฐานนี้อาจมีทางเลือกมากขึ้นในการออกแบบประสบการณ์ เช่น ความรวดเร็วในการตอบกลับ หรือต้นทุนต่อหนึ่งการโต้ตอบ

ในระยะยาว การเปลี่ยนแปลงนี้อาจส่งผลต่อวิธีที่องค์กรวางแผนกำลังการให้บริการ ทั้งในด้านการลงทุนโครงสร้างพื้นฐาน การจัดลำดับความสำคัญของงาน และการตัดสินใจว่าจะนำ AI ไปใช้กับกระบวนการใดก่อน โดยเฉพาะในงานบริการที่ต้องการการตอบสนองที่สม่ำเสมอ

ตัวเลขสำคัญ

• หลายกิกะวัตต์ ขนาดของการขยายการใช้งานตามแผนที่รายงาน
• 2027 ปีที่คาดว่าจะเริ่มนำแร็คชุดใหม่ไปใช้งานจริง
• 96 ชิป จำนวนชิปในหนึ่งการตั้งค่าของแร็ค
• 7 เท่า ปริมาณการประมวลผลโทเค็นที่อ้างว่าเพิ่มขึ้นเมื่อเทียบกับรุ่นก่อนหน้า

มุมมองของ Renascence

ข่าวนี้มักถูกอ่านในฐานะเรื่องของฮาร์ดแวร์ แต่สิ่งที่ผู้ใช้จะรู้สึกได้จริงคือความเร็ว ความต่อเนื่อง และความน่าเชื่อถือของคำตอบในแต่ละครั้ง

ตัวเลขด้านปริมาณการประมวลผลเป็นเรื่องที่องค์กรให้ความสนใจในเชิงเทคนิค แต่ผู้ใช้ตัดสินบริการ AI จากประสบการณ์ในจังหวะที่โต้ตอบ ไม่ใช่จากจำนวนโทเค็นต่อแร็ค หลักการพฤติกรรมที่อยู่เบื้องหลังคือความคาดเดาได้: ผู้ใช้จะไว้วางใจบริการที่ตอบสนองอย่างสม่ำเสมอมากกว่าบริการที่เร็วเป็นครั้งคราว ผู้นำที่ยึดลูกค้าเป็นศูนย์กลางควรถามว่าการเพิ่มประสิทธิภาพนี้จะแปลเป็นเวลาตอบกลับที่คงที่และเชื่อถือได้หรือไม่ และควรออกแบบบริการโดยคำนึงถึงสภาวะที่ใช้งานจริงมากกว่าผลการทดสอบสูงสุด