Mẫu: agent điều phối
Dựng một agent điều phối: nhận yêu cầu, chia việc cho các agent chuyên trách (có thể song song), rồi tổng hợp thành một câu trả lời.
Agent điều phối là một agent không tự làm hết mọi việc. Nó chia yêu cầu thành các phần, giao từng phần cho agent chuyên trách, nhận kết quả về rồi viết câu trả lời cuối cùng.
Khi nào dùng
- Yêu cầu cần nhiều chuyên môn: tra cứu kho tài liệu nội bộ, tìm thông tin trên web, phân tích số liệu, soạn văn bản.
- Các phần độc lập với nhau, có thể làm song song để nhanh hơn.
- Bạn vẫn muốn trò chuyện (hỏi lại, sửa yêu cầu), chứ không phải một quy trình cố định. Nếu quy trình cố định, hãy xem Mẫu: workflow nhiều tầng.
Cơ chế
Agent điều phối dùng hai công cụ:
- Ủy quyền cho Agent: giao một nhiệm vụ cho một agent khác và chờ kết quả.
- Ủy quyền song song: giao nhiều nhiệm vụ cho nhiều agent cùng lúc, tối đa 5 nhiệm vụ mỗi lần.
Một số điểm cần biết:
- Agent điều phối viết câu trả lời cuối. Kết quả của agent con là tài liệu tham khảo nội bộ cho agent điều phối, không gửi thẳng cho người dùng.
- Quyền truy cập: agent điều phối chỉ giao việc được cho agent mà người đang chat được phép dùng: agent có sẵn của hệ thống, agent do người đó tạo, agent chia sẻ cho cả tổ chức, hoặc agent chia sẻ cho dự án người đó là thành viên.
- Số tầng có giới hạn: agent con có thể giao tiếp việc cho agent khác, nhưng hệ thống giới hạn độ sâu (tối đa 3 tầng). Hãy thiết kế phẳng: một điều phối, nhiều chuyên trách.
- Công cụ bị tắt được giữ nguyên: công cụ bạn đã tắt trong lượt chat cũng bị tắt với các agent con.
Dựng agent điều phối
-
Chuẩn bị các agent chuyên trách. Dùng agent có sẵn (ví dụ trợ lý tra cứu kho tri thức, trợ lý tạo Word) hoặc tạo agent của riêng bạn, mỗi agent một việc rõ ràng. Chia sẻ chúng cho những người sẽ dùng agent điều phối.
-
Tạo agent điều phối. Cách dễ nhất: chat với Trợ lý Tạo Agent, mô tả đội của bạn, ví dụ:
Tạo agent "Điều phối nghiên cứu chính sách". Khi nhận một chủ đề: giao song song cho agent tra cứu kho tri thức (tìm quy định nội bộ liên quan) và agent tìm kiếm web (tìm văn bản pháp luật mới). Sau đó tổng hợp thành báo cáo 1 trang, ghi rõ nguồn của từng ý. Nếu người dùng yêu cầu file, giao agent tạo Word soạn file.
-
Viết chỉ dẫn rõ cho agent điều phối: khi nào giao việc, giao cho ai, yêu cầu agent con trả về định dạng gì, và cách tổng hợp.
-
Thử với vài yêu cầu thật, đọc các bước giao việc hiện trong câu trả lời, chỉnh chỉ dẫn cho tới khi ổn.
Chi tiết về giao việc giữa các agent: Agent giao việc cho agent khác.
Mẹo
- Nhiệm vụ giao cho agent con phải tự đủ nghĩa. Agent con không đọc được cuộc trò chuyện của bạn; mọi thông tin cần thiết phải nằm trong nhiệm vụ.
- Yêu cầu agent con trả về ngắn gọn và có cấu trúc (danh sách, bảng, kèm nguồn) để agent điều phối dễ tổng hợp.
- Đừng giao việc khi không cần. Câu hỏi đơn giản để agent điều phối tự trả lời; mỗi lần giao việc là thêm thời gian và credit.
- Việc lặp lại hằng ngày nên chuyển thành workflow với các bước Trợ lý. Xem Đưa agent vào workflow.