Để tra cứu riêng thời tiết hôm nay, lịch tàu KTX, tỷ giá hối đoái và tài liệu nội bộ, chúng ta phải chuyển qua lại giữa nhiều ứng dụng và hệ thống. AI chỉ sử dụng thông tin có tại thời điểm hoàn tất quá trình học sẽ khó phản ánh những tình huống liên tục thay đổi.
Tool Calling hỗ trợ AI lựa chọn các công cụ bên ngoài phù hợp với yêu cầu của người dùng, tra cứu thông tin mới nhất và thực hiện công việc. Bài viết này giải thích cách Tool Calling hoạt động, phạm vi ứng dụng và những điểm cần kiểm tra khi thiết kế.
Tool Calling là gì
Tool Calling là công nghệ kết nối mô hình ngôn ngữ lớn với các hàm, API, cơ sở dữ liệu và hệ thống nghiệp vụ bên ngoài. Sau khi phân tích yêu cầu của người dùng, AI xác định công cụ cần thiết và các giá trị đầu vào, sau đó sử dụng kết quả do công cụ trả về để đưa ra câu trả lời hoặc thực hiện công việc tiếp theo.
| Phân loại | Xử lý dựa trên dữ liệu học được | Xử lý dựa trên Tool Calling |
|---|---|---|
| Thời điểm thông tin | Sử dụng thông tin đến thời điểm mô hình học | Sử dụng dữ liệu bên ngoài tại thời điểm gọi |
| Tính toán | Tạo kết quả dựa trên ngữ cảnh | Gọi máy tính hoặc hàm tính toán để xác nhận kết quả |
| Tài liệu nội bộ | Chỉ sử dụng thông tin được đưa vào quá trình học | Tra cứu cơ sở dữ liệu và hệ thống tài liệu được cấp quyền |
| Thực hiện công việc | Tạo câu trả lời bằng văn bản | Thực hiện các công việc như đặt chỗ, đăng ký, gửi và tạo báo cáo |
Quy trình xử lý yêu cầu
Những việc có thể thực hiện với Tool Calling
Gọi công cụ kết nối việc tra cứu thông tin và thực hiện công việc trong một luồng hội thoại duy nhất. Người dùng có thể truyền đạt các điều kiện bằng ngôn ngữ tự nhiên mà không cần biết cách tìm kiếm hoặc vị trí menu của từng dịch vụ. Doanh nghiệp có thể cấu hình các công cụ được phép gọi khác nhau tùy theo quyền người dùng và quy tắc nghiệp vụ.
| Lĩnh vực ứng dụng | Đối tượng kết nối | Ví dụ xử lý |
|---|---|---|
| Thông tin theo thời gian thực | API thời tiết, giao thông, tỷ giá hối đoái và giá cổ phiếu | Tra cứu thông tin tại thời điểm hiện tại và so sánh theo điều kiện |
| Tính toán chính xác | Máy tính, hàm thống kê, API tính phí | Tính thuế, khoảng cách, chi phí và các giá trị thống kê |
| Thông tin nội bộ | Kho lưu trữ tài liệu, cơ sở dữ liệu, hệ thống tìm kiếm | Tìm kiếm quy định, hợp đồng và tài liệu hiệu suất trong phạm vi quyền hạn |
| Quản lý lịch trình | Lịch, hệ thống đặt chỗ | Kiểm tra thời gian khả dụng và đăng ký lịch |
| Giao tiếp | Email, trình nhắn tin, hệ thống thông báo | Soạn thảo và gửi tin nhắn sau khi người dùng phê duyệt |
| Tự động hóa công việc | Hệ thống báo cáo, quản lý khách hàng, hoạch định nguồn lực doanh nghiệp | Thu thập dữ liệu, điền biểu mẫu và thay đổi trạng thái |
Các nội dung cần kiểm tra khi thiết kế
Khi kết nối với nhiều hệ thống bên ngoài hơn, phạm vi truy cập dữ liệu và quyền thực thi cũng đồng thời được mở rộng. Người vận hành dịch vụ cần xác định cụ thể quy trình xác minh trước và sau khi gọi, phương thức xử lý lỗi và giới hạn chi phí. Người dùng phải có khả năng xác nhận thông tin nào được truyền đến hệ thống nào.
| Hạng mục kiểm tra | Vấn đề có thể phát sinh | Phương pháp thiết kế |
|---|---|---|
| Bảo vệ thông tin cá nhân | Thông tin cá nhân có thể được truyền đến hệ thống bên ngoài trong quá trình gọi | Chỉ truyền dữ liệu cần thiết và quản lý việc mã hóa, thời hạn lưu trữ và điều kiện cung cấp cho bên thứ ba |
| Quyền truy cập | Có thể truy cập tài liệu hoặc chức năng mà người dùng không có quyền sử dụng | Áp dụng xác thực người dùng và quyền theo vai trò, đồng thời xác nhận lại quyền trước khi gọi |
| Độ chính xác của dữ liệu | API có thể trả về các giá trị đã lỗi thời hoặc không chính xác | Hiển thị thời điểm và nguồn dữ liệu, đồng thời áp dụng kiểm tra tính hợp lệ và xác minh chéo |
| Trách nhiệm thực thi | Các tác vụ ngoài ý muốn có thể được xác nhận trong quá trình đặt chỗ, thanh toán hoặc truyền gửi | Áp dụng bước xác nhận và phê duyệt của người dùng đối với các tác vụ khó hủy |
| Quản lý chi phí | Chi phí vận hành có thể tăng do các lần gọi lặp lại và yêu cầu số lượng lớn | Thiết lập giới hạn số lần gọi, lưu kết quả và quy tắc ngăn chặn yêu cầu trùng lặp |
| Bảo trì | API bên ngoài và định dạng đầu vào có thể thay đổi | Vận hành quản lý phiên bản, kiểm thử tự động, phát hiện sự cố và quy trình xử lý thay thế |
- Giới hạn thông tin nhạy cảm trong phạm vi cần thiết cho mục đích gọi.
- Thiết lập bước yêu cầu người dùng phê duyệt đối với các thao tác thanh toán, đặt chỗ, gửi và xóa.
- Liên tục ghi lại thời gian phản hồi, tỷ lệ lỗi và chi phí gọi của công cụ.
- Hiển thị nguồn và thời điểm truy vấn dữ liệu bên ngoài trong kết quả.
- Khi công cụ gặp sự cố, áp dụng tiêu chí về số lần thử lại và phương án xử lý thay thế.
Định hướng của CLEVI trong việc áp dụng vào công việc thực tế
Mức độ ứng dụng AI trong công việc phụ thuộc vào hiệu suất mô hình, các công cụ có thể kết nối, độ chính xác khi thực thi và mức độ kiểm soát bảo mật. Khi kết nối nhiều công cụ trong một yêu cầu, có thể xử lý từ việc tìm kiếm thông tin đến sắp xếp kết quả và thực hiện các tác vụ tiếp theo trên cùng một màn hình. Việc phản ánh quyền hạn và quy trình phê duyệt theo từng công việc giúp giảm các tác vụ lặp lại trong khi vẫn duy trì chính sách bảo mật của tổ chức.
- Gọi công cụ
- Gọi hàm
- AI tạo sinh
- Tác nhân AI
- Tự động hóa công việc
- Tích hợp API