实时连接型 AI - Tool Calling

要分别查询今天的天气、KTX 时刻表、汇率和公司内部资料，就必须在多个应用和系统之间来回切换。仅使用截至训练完成时的信息的 AI，难以反映持续变化的情况。
Tool Calling 支持 AI 根据用户请求选择合适的外部工具，查询最新信息并执行工作。本文将介绍 Tool Calling 的工作方式、应用范围以及设计时需要确认的事项。

什么是 Tool Calling

Tool Calling 是一种连接大语言模型，使其能够调用外部函数、API、数据库和业务系统的技术。AI 会分析用户请求，确定所需的工具和输入值，并利用工具返回的结果生成回答或执行后续任务。

请求处理过程

通过 Tool Calling 可以完成的工作

工具调用将信息查询与业务执行连接到同一对话流程中。用户无需了解各项服务的搜索方式或菜单位置，即可通过自然语言传达条件。企业可以根据用户权限和业务规则，配置不同的可调用工具。

设计时需要确认的事项

随着外部系统连接的增加，数据访问范围和执行权限也会相应扩大。服务运营方需要具体规定调用前后的验证流程、错误处理方式和费用上限。用户应能够确认哪些信息将传递至哪个系统。

• 将敏感信息限制在调用目的所需的范围内。
• 对支付、预约、传输和删除操作设置用户审批步骤。
• 持续记录工具的响应时间、错误率和调用成本。
• 在结果中注明外部数据的来源和查询时间。
• 发生工具故障时，应用重试次数和替代处理标准。

将CLEVI应用于实际业务的方向

AI在业务中的应用程度取决于模型性能、可连接的工具、执行准确性和安全控制水平。将多个工具连接到一个请求后，可以在同一界面中完成从信息检索到结果整理及后续操作的全过程。反映各项业务的权限和审批流程后，可以在维持组织安全政策的同时减少重复工作。

• 工具调用
• 函数调用
• 生成式AI
• AI代理
• 业务自动化
• API集成