即時連接型 AI - Tool Calling

如果要分別查詢今日天氣、KTX 時刻表、匯率及公司內部資料，就需要在多個應用程式和系統之間切換。只使用截至完成訓練時點資訊的 AI，難以反映持續變化的情況。
Tool Calling 支援 AI 按照使用者的要求選擇外部工具，並處理最新資訊查詢及工作執行。本文將說明 Tool Calling 的運作方式、應用範圍，以及設計時需要確認的事項。

甚麼是 Tool Calling

Tool Calling 是一種連接大型語言模型與外部函數、API、資料庫及業務系統的技術。AI 會分析使用者要求，然後決定所需的工具及輸入值，並利用工具返回的結果作出回答或執行下一項工作。

要求的處理過程

使用 Tool Calling 可完成的工作

工具調用將資訊查詢與工作執行連接於同一個對話流程中。使用者無需了解各項服務的搜尋方式或選單位置，只需以自然語言提供條件。企業可根據使用者權限和工作規則，配置不同的可調用工具。

設計時需要確認的事項

隨着外部系統連接增加，資料存取範圍和執行權限亦會一併擴大。服務營運者需要具體制定調用前後的驗證程序、錯誤處理方式及費用上限。使用者應能夠確認哪些資訊會傳送至哪些系統。

• 將敏感資料限制在呼叫目的所需的範圍內。
• 對付款、預約、傳送及刪除操作設置使用者批准步驟。
• 持續記錄工具的回應時間、錯誤率及呼叫成本。
• 在結果中標示外部資料的來源及查詢時間。
• 工具發生故障時，套用重試次數及替代處理標準。

將 CLEVI 應用於實際工作的方向

AI 在工作中的應用程度取決於模型效能、可連接的工具、執行準確度及安全控制水平。連接多個工具至單一請求後，便可在同一畫面中完成從資訊搜尋、結果整理到後續工作的整個流程。反映各項工作的權限及批准程序後，便可在維持組織安全政策的同時，減少重複工作。

• Tool Calling
• Function Calling
• 生成式 AI
• AI 代理
• 工作自動化
• API 整合