Para consultar por separado el clima de hoy, los horarios del KTX, el tipo de cambio y los documentos internos de la empresa, es necesario alternar entre varias aplicaciones y sistemas. A la IA que solo utiliza la información disponible hasta el momento en que terminó su entrenamiento le resulta difícil reflejar situaciones que cambian constantemente.
Tool Calling permite que la IA seleccione las herramientas externas adecuadas según la solicitud del usuario, consulte la información más reciente y ejecute tareas. En este artículo se explican cómo funciona Tool Calling, su alcance de uso y los aspectos que deben verificarse durante el diseño.
¿Qué es Tool Calling?
Tool Calling es una tecnología que conecta los modelos de lenguaje de gran escala con funciones externas, API, bases de datos y sistemas empresariales para que puedan invocarlos. Después de analizar la solicitud del usuario, la IA determina las herramientas y los valores de entrada necesarios, y utiliza los resultados devueltos por las herramientas para responder o realizar la siguiente tarea.
| Clasificación | Procesamiento basado en datos de entrenamiento | Procesamiento basado en Tool Calling |
|---|---|---|
| Momento de la información | Uso de la información disponible hasta el momento del entrenamiento del modelo | Uso de datos externos disponibles en el momento de la llamada |
| Cálculo | Generación de resultados con base en el contexto | Verificación de resultados mediante la llamada a una calculadora o función de cálculo |
| Documentos internos de la empresa | Uso exclusivo de la información incluida en el proceso de entrenamiento | Consulta de bases de datos y sistemas de documentos con permisos autorizados |
| Ejecución de tareas | Generación de una respuesta escrita | Ejecución de tareas como reservaciones, registros, envíos y generación de informes |
Proceso de procesamiento de solicitudes
Lo que se puede hacer con Tool Calling
La invocación de herramientas conecta la consulta de información y la ejecución de tareas en un solo flujo conversacional. Los usuarios pueden proporcionar condiciones en lenguaje natural sin conocer la forma de búsqueda o la ubicación de los menús de cada servicio. Las empresas pueden configurar de manera diferente las herramientas que se pueden invocar, según los permisos de los usuarios y las reglas de operación.
| Áreas de aplicación | Sistemas conectados | Ejemplos de procesamiento |
|---|---|---|
| Información en tiempo real | API del clima, tráfico, tipos de cambio y precios de acciones | Consulta de información actual y comparación según condiciones |
| Cálculos precisos | Calculadoras, funciones estadísticas y API de cálculo de tarifas | Cálculo de impuestos, distancias, costos y valores estadísticos |
| Información interna | Repositorios de documentos, bases de datos y sistemas de búsqueda | Búsqueda de reglamentos, contratos y datos de desempeño dentro del alcance de los permisos |
| Gestión de calendarios | Calendarios y sistemas de reservaciones | Consulta de horarios disponibles y registro de citas |
| Comunicación | Correo electrónico, mensajería y sistemas de notificaciones | Redacción y envío de mensajes después de la aprobación del usuario |
| Automatización de tareas | Sistemas de informes, gestión de clientes y planificación de recursos empresariales | Recopilación de datos, llenado de formularios y cambio de estados |
Aspectos que se deben verificar durante el diseño
A medida que aumentan las conexiones con sistemas externos, también se amplían el alcance del acceso a los datos y los permisos de ejecución. Los operadores del servicio deben definir de manera específica los procedimientos de validación antes y después de la invocación, la forma de responder a los errores y los límites de costos. Los usuarios deben poder verificar qué información se transmite y a qué sistema.
| Elemento de verificación | Problema potencial | Método de diseño |
|---|---|---|
| Protección de datos personales | Durante el proceso de invocación, los datos personales pueden transmitirse a sistemas externos | Transmitir únicamente los datos necesarios y administrar el cifrado, el periodo de conservación y las condiciones para proporcionar información a terceros |
| Permisos de acceso | Se puede acceder a datos o funciones para los que no se cuenta con autorización | Aplicar la autenticación del usuario y permisos por rol, y volver a verificar los permisos antes de la invocación |
| Precisión de los datos | La API puede devolver valores obsoletos o incorrectos | Mostrar la fecha y la fuente de los datos, y aplicar validaciones y verificaciones cruzadas |
| Responsabilidad de la ejecución | Durante una reservación, un pago o un envío, se pueden confirmar acciones no intencionadas | Aplicar pasos de confirmación y aprobación del usuario a las acciones difíciles de cancelar |
| Gestión de costos | Los costos operativos pueden aumentar debido a invocaciones repetidas y solicitudes masivas | Establecer límites de invocaciones, almacenamiento de resultados y reglas para evitar solicitudes duplicadas |
| Mantenimiento | Las API externas y los formatos de entrada pueden cambiar | Operar con control de versiones, pruebas automatizadas, detección de fallas y procedimientos alternativos |
- Limita la información confidencial al alcance necesario para el propósito de la llamada.
- Establece una etapa de aprobación del usuario para las operaciones de pago, reserva, envío y eliminación.
- Registra continuamente el tiempo de respuesta, la tasa de errores y el costo de las llamadas a las herramientas.
- Muestra en los resultados la fuente de los datos externos y el momento de la consulta.
- Si se produce una falla en una herramienta, aplica criterios para el número de reintentos y el procesamiento alternativo.
El enfoque de CLEVI para aplicarlo al trabajo real
El nivel de utilidad de la IA en el trabajo depende del rendimiento del modelo, las herramientas que se pueden conectar, la precisión de ejecución y el nivel de controles de seguridad. Al conectar varias herramientas a una solicitud, puedes realizar en una misma pantalla todo el proceso, desde la búsqueda de información hasta la organización de resultados y las tareas posteriores. Al reflejar los permisos y procedimientos de aprobación específicos de cada tarea, puedes reducir el trabajo repetitivo manteniendo las políticas de seguridad de la organización.
- Tool Calling
- Function Calling
- IA generativa
- agentes de IA
- automatización de tareas
- integración de API