Giao một việc cho AI Agent là để agent làm thay, với hệ quả thật: một lá thư gửi đi, một khoản tiền chuyển đi. Trước khi giao, luôn có hai câu hỏi. Câu thứ nhất hỏi về agent: nó có làm được việc này không? Câu thứ hai hỏi về người giao việc: có sẵn lòng để nó làm không, khi biết nó có thể sai?
Câu thứ nhất là chuyện năng lực. Câu thứ hai là chuyện niềm tin. Bài Năm cấp độ tự chủ của AI Agent đã tách năng lực khỏi tự chủ và quyền hạn. Bài này đặt năng lực cạnh niềm tin, và chỉ làm rõ hai khái niệm đó cùng quan hệ giữa chúng.
Từ ngữ trong bài
| Từ ngữ | Nghĩa trong bài |
|---|---|
| Giao việc (delegation) | Để agent làm thay một việc có hệ quả thật. |
| Năng lực (capability) | Mức agent làm được một việc cụ thể. |
| Niềm tin (trust) | Mức người giao việc sẵn lòng để agent làm thay, dù biết agent có thể sai. |
| Tin đúng mức (appropriate trust) | Niềm tin khớp với năng lực thật của agent cho đúng việc đó. |
| Tin quá, tin thiếu (overtrust, undertrust) | Tin hơn mức agent làm được; tin kém mức agent làm được. |
| Cái giá khi sai (stakes) | Những gì mất đi nếu agent làm sai, và việc đó có sửa lại được không. |
Năng lực: agent có làm được việc này không
Năng lực là mức agent làm được một việc cụ thể.
Năng lực luôn gắn với một việc, không phải một điểm số chung của agent. Một agent viết thư trôi chảy chưa chắc xử lý đúng một yêu cầu hoàn tiền.
Lấy một cửa hàng trực tuyến nhỏ giao cho agent việc trả lời thư của khách. Thư hỏi giá chỉ đòi một câu trả lời đúng. Thư xin hoàn tiền đòi xem lại đơn hàng, đối chiếu chính sách đổi trả và quyết định có trả tiền lại hay không. Cùng một agent có thể trả lời thư hỏi giá gần như không sai, mà vẫn nhầm ở thư xin hoàn tiền.
Vì thế câu hỏi không phải agent giỏi đến đâu. Câu hỏi là agent có đủ năng lực cho việc này không. Năng lực nằm ở agent, và không đổi theo điều người giao việc nghĩ về nó. Người giao việc chỉ thấy được năng lực qua những gì agent đã làm.
Năng lực là của agent, và là cho một việc.
Niềm tin: người giao việc có sẵn lòng để agent làm không
Niềm tin là mức người giao việc sẵn lòng để agent làm thay, dù biết agent có thể sai.
Niềm tin nằm ở người giao việc, không nằm ở agent. Cùng một agent, chủ cửa hàng có thể tin nó với thư hỏi giá mà chưa tin nó với thư xin hoàn tiền. Hai câu hỏi ở đầu bài vì vậy hỏi riêng cho từng việc, không hỏi chung cho cả agent.
Niềm tin ở đây không phải đức tin. Nó chỉ có nghĩa khi có thể mất gì đó. Nếu agent sai mà không ai mất gì, câu hỏi tin hay không chưa đặt ra.
Năng lực là của agent. Niềm tin là của người giao việc.
Hai điều kiện, bốn trường hợp
Đặt hai điều kiện cạnh nhau thì có bốn trường hợp.
| Có niềm tin | Chưa có niềm tin | |
|---|---|---|
| Đủ năng lực | Giao được | Tin thiếu: bỏ phí |
| Chưa đủ năng lực | Tin quá: dễ hỏng nhất | Chưa giao: đúng |
Ranh giới giữa đủ và chưa đủ không cố định. Nó dời theo cái giá khi sai của từng việc.
Agent đủ năng lực và chủ cửa hàng tin nó: việc được giao và được làm tốt. Thư hỏi giá thường nằm ở ô này.
Agent đủ năng lực mà chủ cửa hàng chưa tin: việc vẫn nằm trên bàn của chủ cửa hàng. Agent làm được, nhưng không được làm. Đó là tin thiếu.
Chủ cửa hàng tin mà agent chưa đủ năng lực: việc được giao rồi hỏng. Agent trả lời thư hỏi giá tốt suốt một tháng. Chủ cửa hàng giao luôn thư xin hoàn tiền, và agent hoàn tiền cho một món hàng không lỗi. Không ai kiểm tra, vì chủ cửa hàng đã tin. Đó là tin quá, trường hợp dễ hỏng nhất.
Agent chưa đủ năng lực và chủ cửa hàng chưa tin: việc chưa được giao. Đó là lựa chọn đúng, cho đến khi năng lực của agent với việc đó thay đổi.
Thiếu năng lực thì giao là hỏng. Thiếu niềm tin thì việc thường không được giao.
Tin đúng mức, không phải tin nhiều
Mục tiêu không phải là tin nhiều. Mục tiêu là tin đúng mức: niềm tin khớp với năng lực thật của agent, cho từng việc.
Ở cửa hàng, tin đúng mức có nghĩa là cùng lúc tin agent nhiều với thư hỏi giá và tin ít với thư xin hoàn tiền. Tin đúng mức cũng không có nghĩa là luôn dè dặt. Với việc agent làm tốt, tin ít là một cách lệch, cũng như tin nhiều với việc agent làm chưa tốt. Khi năng lực của agent với một việc thay đổi, niềm tin với việc đó cũng đổi theo.
Niềm tin đi theo năng lực, từng việc một.
Cái giá khi sai quyết định thế nào là đủ
Hai điều kiện trên còn để ngỏ một chữ: "đủ". Năng lực bao nhiêu thì đủ, tin đến đâu thì đủ? Câu trả lời nằm ở chính việc được giao: nếu agent sai thì mất gì, và có sửa lại được không.
Trả lời nhầm một thư hỏi giá thì gửi thư đính chính, khách hơi phiền là cùng. Xử lý nhầm một thư xin hoàn tiền thì tiền đã chuyển đi, khó lấy lại. Kể cả khi agent làm hai việc tốt như nhau, việc thứ hai vẫn đòi năng lực chắc hơn và niềm tin cao hơn.
Cái giá khi sai không phải điều kiện thứ ba. Nó là thước đo cho hai điều kiện kia.
Hỏi hai câu, cho từng việc
Trước khi giao một việc cho AI Agent, có hai câu hỏi: agent có đủ năng lực cho việc này không, và người giao việc có tin agent đúng bằng mức năng lực đó không. Hai câu ấy hỏi cho từng việc, theo cái giá khi sai của việc ấy.
Bài này chỉ làm rõ hai khái niệm. Những câu hỏi sau còn để ngỏ:
- Năng lực của agent đo thế nào?
- Vì sao người ta tin quá, hoặc tin thiếu?
- Khi nào nên giao, khi nào tự làm?
- Niềm tin được xây dần ra sao?
Câu hỏi không phải có nên dùng AI Agent hay không. Câu hỏi là giao việc nào, và tin đến đâu.
Tài liệu tham khảo
Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. Academy of Management Review, 20(3), 709–734. https://doi.org/10.2307/258792