AI จัดเวรพยาบาลผิดพลาด พยาบาลชี้เป็นความเสี่ยงด้านความปลอดภัย

สิ่งที่เกิดขึ้น

พยาบาลในกลุ่มโรงพยาบาลแห่งหนึ่งและเครือข่ายรังสีวิทยาแห่งหนึ่งระบุว่า ซอฟต์แวร์จัดตารางเวรที่ใช้ AI ของ Palantir ก่อให้เกิดความผิดพลาดในการจัดเวร ซึ่งทำให้ความเหนื่อยล้าเพิ่มขึ้นและอาจเป็นความเสี่ยงต่อความปลอดภัยของผู้ป่วย ตามรายงานของ Wired

พยาบาลกลุ่มนี้มองว่า ปัญหาไม่ได้จำกัดอยู่เพียงการลงเวรผิดพลาดเป็นครั้งคราว แต่สะท้อนว่าเครื่องมือที่ถูกนำมาใช้เพื่อลดภาระการบริหารงาน กลับกลายเป็นภาระเพิ่มให้กับทีมที่ทำหน้าที่ดูแลผู้ป่วยโดยตรง

เรื่องนี้เป็นกรณีที่ชัดเจนของการนำ AI เข้ามาจัดการงานด้านบุคลากรในบริการสุขภาพ โดยผลกระทบที่เกิดกับผู้ปฏิบัติงานสามารถส่งต่อไปถึงคุณภาพการดูแลผู้ป่วยได้

เหตุใดเรื่องนี้จึงสำคัญ

สำหรับผู้นำด้านประสบการณ์ AI และการปรับเปลี่ยนสู่ดิจิทัล เรื่องนี้ชี้ให้เห็นว่าการใช้ AI ในการจัดตารางงานไม่ใช่เพียงเรื่องของประสิทธิภาพอัลกอริทึม แต่ต้องพิจารณาว่าระบบทำงานร่วมกับคนอย่างไรในสภาพงานจริง เมื่อตารางเวรผิดพลาด ผลกระทบจะตกอยู่กับทั้งผู้ปฏิบัติงานและผู้ป่วย ซึ่งเป็นประสบการณ์ที่ตัวชี้วัดภายในขององค์กรอาจมองไม่เห็น

เรื่องนี้ยังบ่งชี้ว่า องค์กรที่นำระบบอัตโนมัติมาใช้ควรให้ความสำคัญกับผู้ใช้งานปลายทาง ทั้งการรับฟังข้อเสนอแนะจากหน้างาน การทดสอบในสภาพการทำงานจริง และการกำหนดให้มนุษย์ตรวจสอบผลลัพธ์ก่อนนำไปใช้งาน

มุมมองของ Renascence

ประเด็นที่ผู้อ่านหลายคนอาจมองข้ามคือ ความไว้วางใจของผู้ใช้งาน ซึ่งเป็นตัวกำหนดว่าระบบจะถูกใช้อย่างมีประสิทธิผลหรือไม่ ไม่ว่าอัลกอริทึมจะซับซ้อนเพียงใด

สิ่งที่ผู้อ่านส่วนใหญ่อาจพลาดคือ ปัญหาของระบบจัดเวรมักไม่ได้อยู่ที่การคำนวณเพียงอย่างเดียว แต่อยู่ที่กฎเกณฑ์ทางปฏิบัติและความซับซ้อนของงานพยาบาลที่ไม่ได้ถูกบันทึกไว้ในข้อมูล หลักการด้านการออกแบบบริการที่สำคัญคือ ผู้ที่ต้องรับผลจากระบบควรมีช่องทางแก้ไขและยืนยันตารางได้ก่อนที่ความเสี่ยงจะเกิดขึ้นจริง ผู้ให้บริการที่ยึดลูกค้าเป็นศูนย์กลางควรเริ่มจากการรับฟังผู้ปฏิบัติงานในพื้นที่ นำร่องในขอบเขตจำกัด และกำหนดให้ชัดเจนว่าเมื่อใดมนุษย์ต้องเป็นผู้ตัดสินใจขั้นสุดท้าย