Mô hình open-weight chiếm 71,5% token trên cổng AI Vercel

Điều gì đã xảy ra

Theo The Register, các mô hình open-weight (mô hình có trọng số công khai) đã xử lý 71,5% số token đi qua cổng AI của Vercel, nhưng chỉ chiếm gần một phần tư chi tiêu ước tính. Đây là dữ liệu về mức sử dụng thực tế trên một nền tảng hạ tầng AI, không phải dự báo thị trường.

Khoảng cách lớn giữa tỷ trọng khối lượng và tỷ trọng chi tiêu cho thấy các mô hình này có cấu trúc chi phí phù hợp hơn với những khối lượng công việc lặp lại, quy mô lớn và mang tính thường nhật. Các con số hiện có chưa cho biết cụ thể loại tác vụ nào tạo ra phần lớn khối lượng đó, cũng như mức chi phí của từng nhóm mô hình.

Vì sao điều này quan trọng

Với các đội ngũ đang triển khai AI trong doanh nghiệp và dịch vụ công, dữ liệu này cho thấy lựa chọn mô hình đang dần trở thành một quyết định về kiến trúc và chi phí. Khi phần lớn token được xử lý bởi mô hình rẻ hơn, câu hỏi không còn là "dùng mô hình nào" mà là "tác vụ nào được định tuyến đến mô hình nào, và với mức chất lượng nào".

Điều này cũng tác động trực tiếp đến trải nghiệm. Những tác vụ thường nhật có thể được phục vụ hiệu quả bằng mô hình nhỏ hơn, trong khi các tương tác có rủi ro cao với khách hàng vẫn cần sự kiểm soát chặt chẽ hơn. Tổ chức nào xác định rõ ranh giới này sẽ có lợi thế trong việc vừa kiểm soát chi phí vừa giữ được chất lượng dịch vụ.

Các con số đáng chú ý

• 71,5% tổng số token được xử lý bởi các mô hình open-weight qua cổng AI của Vercel.
• Gần một phần tư tổng chi tiêu ước tính được ghi nhận cho nhóm mô hình này.

Góc nhìn của Renascence

Tỷ trọng token là thước đo khối lượng, không phải thước đo giá trị. Điều đáng quan tâm hơn là mỗi tương tác với khách hàng có thể chịu được bao nhiêu sai sót.

Đa số đội ngũ sẽ đọc con số 71,5% như một lời khuyên chuyển sang mô hình rẻ hơn, nhưng đây thực ra là bài toán phân loại rủi ro trải nghiệm. Nguyên tắc hành vi và thiết kế dịch vụ ở đây là: chi phí thấp chỉ có ý nghĩa khi lỗi ở tác vụ đó không làm khách hàng mất niềm tin. Một tổ chức tập trung vào khách hàng nên lập bản đồ từng điểm chạm AI theo mức độ rủi ro và chi phí của lỗi, rồi mới quyết định định tuyến. Đừng chọn mô hình theo thương hiệu hay bảng xếp hạng, hãy chọn theo hành trình mà khách hàng thực sự trải qua.