BigQuery โควตาโทเคนรายวันช่วยให้ค่าใช้จ่ายฟังก์ชัน AI คาดการณ์ได้มากขึ้น

สิ่งที่เกิดขึ้น

Google ได้เปิดให้ใช้งานโควตาโทเคนรายวันสำหรับฟังก์ชัน generative AI ใน BigQueryอย่างทั่วไปแล้ว ฟีเจอร์นี้ช่วยให้องค์กรกำหนดเพดานการใช้โทเคนทั้งขาเข้าและขาออก ได้ทั้งในระดับโปรเจกต์และระดับผู้ใช้รายบุคคล ข่าวนี้รายงานโดย InfoWorld ซึ่งระบุว่าเป้าหมายหลักคือทำให้ค่าใช้จ่ายจากการใช้ฟังก์ชัน AI คาดการณ์ได้มากขึ้น

การเปลี่ยนแปลงนี้เกิดขึ้นในช่วงที่องค์กรจำนวนมากนำฟังก์ชัน AI ไปใช้งานร่วมกับข้อมูลในคลังข้อมูลเดิม การควบคุมการใช้โทเคนโดยตรงจึงเป็นกลไกเชิงปฏิบัติที่ผู้ดูแลระบบสามารถตั้งค่าได้โดยไม่ต้องออกจากแพลตฟอร์มข้อมูลที่ใช้อยู่

ทำไมเรื่องนี้จึงสำคัญ

สำหรับผู้นำด้านประสบการณ์ AI และการพัฒนาดิจิทัล การใช้โทเคนคือต้นทุนที่ผันแปรตามพฤติกรรมการใช้งานจริง เมื่อไม่มีเพดาน ต้นทุนอาจเพิ่มขึ้นโดยที่ทีมงานไม่ทันสังเกต การมีโควตาจึงเปลี่ยนการใช้ AI จากสิ่งที่ไม่มีขอบเขต ให้กลายเป็นงบประมาณที่บริหารจัดการได้ ซึ่งเป็นสิ่งที่ฝ่ายการเงินและฝ่ายปฏิบัติการต้องการเพื่อขยายการใช้งาน AI อย่างมั่นใจ

ประเด็นนี้ยังสะท้อนแนวโน้มที่กว้างกว่า เมื่อฟังก์ชัน AI ถูกฝังเข้าไปในเครื่องมือข้อมูลและกระบวนการทำงานประจำวัน การกำกับดูแลการใช้งานจะกลายเป็นส่วนหนึ่งของการออกแบบระบบ ไม่ใช่เพียงเรื่องของการตรวจสอบใบแจ้งหนี้ในภายหลัง

มุมมองของ Renascence

ข่าวนี้มักถูกอ่านว่าเป็นเรื่องของการควบคุมต้นทุนเท่านั้น แต่ในทางประสบการณ์ การกำหนดเพดานคือการตัดสินใจว่าความขัดข้องจะเกิดขึ้นตรงจุดใด และใครจะเป็นคนเผชิญมัน

โควตาที่ตัดการทำงานกลางคันจะย้ายต้นทุนจากงบประมาณไปยังประสบการณ์ของผู้ใช้ทันที นักวิเคราะห์ข้อมูลที่เจอสัญญาณปฏิเสธระหว่างการทำงานจะรู้สึกว่าเครื่องมือไม่น่าเชื่อถือ มากกว่าจะเข้าใจว่าเป็นการควบคุมที่ตั้งใจไว้ หลักการด้านการออกแบบบริการคือวางขีดจำกัดให้สอดคล้องกับบทบาทและจังหวะการทำงานจริง และกำหนดไว้ล่วงหน้าว่าผู้ใช้ควรทำอย่างไรเมื่อถึงเพดาน ผู้นำที่เอาใจใส่ลูกค้าและผู้ใช้ภายในควรเริ่มจากการดูว่าใครใช้ฟังก์ชันเหล่านี้บ่อยที่สุด ก่อนจะตั้งตัวเลขเพดานใดๆ