即時連線型 AI－Tool Calling

若要分別查詢今日天氣、KTX 時刻表、匯率和公司內部資料，就必須在多個應用程式與系統之間切換。僅使用截至訓練完成時資訊的 AI，難以反映持續變化的情況。
Tool Calling 支援 AI 根據使用者的請求選擇適合的外部工具，並處理最新資訊查詢與工作執行。本文將說明 Tool Calling 的運作方式、適用範圍，以及設計時需要確認的事項。

什麼是 Tool Calling

Tool Calling 是一種將大型語言模型連接至外部函式、API、資料庫和業務系統的技術。AI 會分析使用者請求，決定所需的工具與輸入值，並利用工具回傳的結果回答問題或執行下一項工作。

請求處理流程

透過 Tool Calling 可完成的工作

工具呼叫將資訊查詢與業務執行連結在同一個對話流程中。使用者不必知道各項服務的搜尋方式或選單位置，即可透過自然語言傳達條件。企業可以依據使用者權限與業務規則，設定可呼叫的工具。

設計時需要確認的事項

隨著外部系統連接增加，資料存取範圍與執行權限也會一併擴大。服務營運者應具體制定呼叫前後的驗證程序、錯誤處理方式與費用上限。使用者應能確認哪些資訊會傳送至哪個系統。

• 將敏感資訊限制在呼叫目的所需的範圍內。
• 對付款、預約、傳送及刪除作業設定使用者核准步驟。
• 持續記錄工具的回應時間、錯誤率及呼叫成本。
• 在結果中標示外部資料的來源與查詢時間。
• 發生工具故障時，套用重試次數與替代處理標準。

CLEVI 實際應用於業務的方向

AI 在業務上的應用程度，取決於模型效能、可連接的工具、執行準確度及安全控制水準。將多個工具連接至同一個請求後，即可在同一個畫面中，從資訊搜尋到結果整理及後續作業一併處理。納入各項業務的權限與核准流程後，即可在維持組織安全政策的同時，減少重複作業。

• Tool Calling
• Function Calling
• 生成式 AI
• AI 代理
• 業務自動化
• API 整合