Supervised Autonomy

Tại sao Quản trị là biên giới mới của triển khai AI

Cuộc trò chuyện về AI trong trải nghiệm khách hàng đã dành nhiều năm tập trung vào khả năng: liệu mô hình có thể hiểu ý định, tạo ra một câu trả lời mạch lạc, giải quyết truy vấn không? Câu hỏi đó phần lớn đã được giải quyết cho các tương tác thông thường. Câu hỏi khó hơn – câu hỏi hiện đang phân biệt các tổ chức mở rộng quy mô AI một cách có trách nhiệm với những tổ chức bị đình trệ hoặc vấp ngã – là điều gì xảy ra khi mô hình ngừng nói và bắt đầu hành động.

Thực hiện hoàn tiền, hủy đăng ký, cấu hình lại tài khoản: đây không phải là các hành động đàm thoại. Chúng là các hành động vận hành, với những hậu quả tiếp theo mà một câu nói không đúng cách đơn giản là không gây ra. Khoảnh khắc AI vượt qua ngưỡng đó, hồ sơ rủi ro thay đổi hoàn toàn. Một hành động tự tin nhưng sai lầm tệ hơn đáng kể so với một câu trả lời khó xử, và không có mức độ tinh chỉnh mô hình nào loại bỏ được rủi ro đó. Điều loại bỏ nó – hoặc ít nhất là kiềm chế nó – là lớp kiểm soát bao quanh mô hình.

Phần khó của AI tác nhân không phải là tạo ra. Đó là quản trị. Các tổ chức coi đây là cùng một vấn đề sẽ tiếp tục giải quyết sai vấn đề.

Giải phẫu một lớp kiểm soát

Tự chủ có giám sát không phải là một tính năng bạn mua; đó là một kiến trúc bạn xây dựng. Cốt lõi của nó là một tập hợp các chính sách rõ ràng xác định những gì một tác nhân có thể làm mà không cần xem xét của con người, trong điều kiện nào và đến ngưỡng nào. Giới hạn chi tiêu, điểm tin cậy, danh mục hành động, phân khúc khách hàng – mỗi yếu tố trở thành một biến số trong quyết định liệu tác nhân có tiếp tục hay tạm dừng.

Các thành phần thực tế của một lớp kiểm soát trưởng thành thường bao gồm:

• Ngưỡng tin cậy: Các hành động chỉ được thực hiện khi độ chắc chắn của mô hình vượt qua một ngưỡng xác định; các trường hợp dưới ngưỡng đó được chuyển đến một tác nhân con người thay vì được giải quyết tự động.
• Giới hạn chi tiêu và tác động: Hoàn tiền trên một giá trị nhất định, hoặc hủy bỏ ảnh hưởng đến khách hàng lâu năm, kích hoạt xem xét bắt buộc bất kể độ tin cậy của mô hình.
• Phân loại hành động: Một phân loại theo cấp bậc về những gì tác nhân có thể làm đơn phương, những gì yêu cầu xác nhận mềm, và những gì luôn thuộc sở hữu của con người.
• Nhật ký kiểm toán: Mọi hành động tự động đều được ghi lại với trạng thái lý do đã tạo ra nó – một yêu cầu ngày càng mang tính quy định, không chỉ đơn thuần là vận hành.

Kiến trúc này định nghĩa cái mà các chuyên gia đang bắt đầu gọi là bán kính vụ nổ của tự động hóa: thiệt hại tối đa mà một tác nhân bị hiệu chỉnh sai có thể gây ra trước khi con người phát hiện ra. Giữ bán kính đó nhỏ khi ra mắt, sau đó mở rộng nó một cách có chủ ý khi dữ liệu hiệu suất tích lũy, là nguyên tắc hoạt động đằng sau việc mở rộng quy mô có trách nhiệm.

Áp lực pháp lý đang thúc đẩy kỷ luật

Tự chủ có giám sát không chỉ là một lựa chọn quản lý rủi ro – nó đang trở thành một tư thế tuân thủ. Các quy định AI mới nổi ở nhiều khu vực pháp lý mong đợi các tổ chức chứng minh khả năng giải thích và sự giám sát có ý nghĩa của con người đối với các quyết định mang lại kết quả quan trọng cho các cá nhân. Trong lĩnh vực ngân hàng, bảo hiểm, chăm sóc sức khỏe và viễn thông – các lĩnh vực cảm nhận sự thay đổi này sớm nhất – ngưỡng đó đã cao và đang tăng lên.

Ý nghĩa là cấu trúc. Các tổ chức đã coi quản trị AI là một điều thứ yếu sẽ phải đối mặt với chi phí sửa chữa lớn hơn nhiều so với chi phí của một lớp kiểm soát được thiết kế sẵn. Những tổ chức xây dựng kiến trúc giám sát trước tiên sẽ đạt được điều mà cả cơ quan quản lý và khách hàng đều coi trọng: một tài khoản đáng tin cậy, có thể kiểm toán về cách các quyết định tự động được đưa ra và nơi con người vẫn tham gia vào quy trình.

Đây cũng là lý do tại sao các cuộc khảo sát ngành liên tục xác định quản trị và sự tin cậy – chứ không phải độ chính xác của mô hình – là rào cản chính để mở rộng quy mô AI trong hoạt động. Một trong ba sáng kiến tự động hóa bị đình trệ không phải vì công nghệ hoạt động kém hiệu quả, mà vì tổ chức không thể tự mình, chức năng rủi ro của mình hoặc các cơ quan quản lý của mình tin rằng nhiệm vụ của tác nhân được giới hạn một cách thích hợp.

Điều này có ý nghĩa gì đối với khách hàng, đội ngũ và doanh nghiệp

Đối với khách hàng, hiệu quả thực tế của tự chủ có giám sát được thiết kế tốt là vô hình theo cách tốt nhất có thể. Các yêu cầu thông thường – kiểm tra trạng thái, điều chỉnh đơn giản, hoàn tiền tiêu chuẩn – được giải quyết nhanh hơn vì tác nhân xử lý chúng mà không gặp trở ngại. Các yêu cầu quan trọng sẽ được chuyển đến một người, không phải vì AI thất bại, mà vì chính sách đã xác định đúng rằng một người nên tham gia. Trải nghiệm này vừa hiệu quả vừa đáng tin cậy, đây là sự kết hợp mà hầu hết các triển khai hiện tại đều không đạt được đồng thời.

Đối với doanh nghiệp, giá trị nằm ở sự tự tin có thể mở rộng. Quyền tự chủ có thể mở rộng dần dần – nhiều loại hành động hơn, ngưỡng cao hơn, phân khúc khách hàng rộng hơn – khi hiệu suất đo lường được chứng minh. Đó là một mô hình tăng trưởng khác biệt cơ bản so với lựa chọn nhị phân giữa tự động hóa hoàn toàn và xử lý hoàn toàn bằng con người mà hầu hết các tổ chức hiện đang điều hướng.

Đối với các nhóm CX và vận hành, ý nghĩa tổ chức có thể là quan trọng nhất. Một chức năng mới đang nổi lên ở giao điểm của CX, rủi ro và kỹ thuật: chính sách tự động hóa. Ai đó, hoặc một nhóm nào đó, phải chịu trách nhiệm về các quyết định về vị trí của nút điều chỉnh, khi nào nó di chuyển và bằng chứng nào chứng minh việc di chuyển đó. Vai trò đó hiện không tồn tại rõ ràng trong hầu hết các sơ đồ tổ chức. Xây dựng nó một cách có chủ ý – thay vì để nó mặc định cho bất kỳ ai gần mô hình nhất – là một trong những quyết định cấu trúc quan trọng hơn mà một tổ chức CX có thể đưa ra trong thời gian tới.

Bắt đầu từ đâu

Hướng dẫn thực tế rất đơn giản, ngay cả khi việc thực hiện không phải vậy. Coi quyền tự chủ như một nút điều chỉnh, không phải một công tắc. Bắt đầu với nhiệm vụ hẹp nhất có thể – một loại hành động duy nhất, một phân khúc khách hàng giới hạn, một ngưỡng tin cậy thận trọng – và trang bị mọi thứ. Xác định các yếu tố kích hoạt tạm dừng để con người can thiệp rõ ràng trước khi tác nhân hoạt động, không phải sau khi lỗi đầu tiên xuất hiện. Sau đó, mở rộng nhiệm vụ chỉ khi hồ sơ hiệu suất cho phép.

Các tổ chức sẽ dẫn đầu về AI tác nhân không nhất thiết là những tổ chức có mô hình mạnh nhất. Họ là những tổ chức đã suy nghĩ kỹ lưỡng nhất về những gì mô hình được phép làm – và xây dựng kiến trúc để thực thi điều đó.