Para consultar por separado o tempo de hoxe, os horarios do KTX, os tipos de cambio e os materiais internos da empresa, hai que cambiar entre varias aplicacións e sistemas. Á IA que só utiliza a información dispoñible no momento en que rematou a súa aprendizaxe cústalle reflectir situacións que cambian continuamente.
O Tool Calling permite que a IA seleccione ferramentas externas adecuadas á solicitude do usuario, consulte información actualizada e execute tarefas. Neste artigo explícanse o funcionamento do Tool Calling, o seu ámbito de aplicación e os aspectos que cómpre comprobar ao deseñalo.
Que é o Tool Calling
O Tool Calling é unha tecnoloxía que conecta os modelos de linguaxe de gran escala con funcións externas, API, bases de datos e sistemas empresariais para que poidan chamalos. A IA analiza a solicitude do usuario, determina as ferramentas e os valores de entrada necesarios e, a continuación, utiliza os resultados devoltos polas ferramentas para responder ou realizar a seguinte tarefa.
| Clasificación | Procesamento baseado en datos de aprendizaxe | Procesamento baseado en Tool Calling |
|---|---|---|
| Momento da información | Uso da información dispoñible ata o momento da aprendizaxe do modelo | Uso de datos externos dispoñibles no momento da chamada |
| Cálculo | Xeración do resultado baseándose no contexto | Comprobación do resultado chamando a unha calculadora ou a unha función de cálculo |
| Materiais internos da empresa | Uso exclusivo da información incluída no proceso de aprendizaxe | Consulta de bases de datos e sistemas documentais aos que se teña acceso |
| Execución de tarefas | Xeración de frases de resposta | Execución de tarefas como reservar, rexistrar, enviar e xerar informes |
Proceso de tratamento da solicitude
O que se pode facer con Tool Calling
Tool Calling conecta a consulta de información e a execución de tarefas nun único fluxo de conversa. Os usuarios poden indicar condicións en linguaxe natural sen ter que coñecer o método de busca nin a localización dos menús de cada servizo. As empresas poden configurar de maneira diferente as ferramentas que se poden chamar segundo os permisos dos usuarios e as regras de negocio.
| Ámbitos de aplicación | Obxectivos de conexión | Exemplos de procesamento |
|---|---|---|
| Información en tempo real | API do tempo, tráfico, tipos de cambio e cotizacións bolsistas | Consulta de información no momento actual e comparación segundo as condicións |
| Cálculos precisos | Calculadoras, funcións estatísticas e API de cálculo de tarifas | Cálculo de impostos, distancias, custos e valores estatísticos |
| Información interna | Repositorios de documentos, bases de datos e sistemas de busca | Busca de normativas, contratos e datos de rendemento dentro do ámbito de permisos |
| Xestión de axendas | Calendarios e sistemas de reservas | Consulta de horarios dispoñibles e rexistro de citas |
| Comunicación | Correo electrónico, mensaxería e sistemas de notificacións | Redacción e envío de mensaxes tras a aprobación do usuario |
| Automatización de tarefas | Sistemas de informes, xestión de clientes e planificación de recursos empresariais | Recollida de datos, cubrición de formularios e modificación do estado |
Aspectos que se deben comprobar durante o deseño
A medida que aumentan as conexións con sistemas externos, tamén se amplían o ámbito de acceso aos datos e os permisos de execución. Os responsables do servizo deben definir con precisión os procedementos de validación previos e posteriores á chamada, o método de resposta aos erros e os límites de custo. Os usuarios deben poder comprobar que información se transmite e a que sistema.
| Elementos que se deben comprobar | Problemas que poden producirse | Métodos de deseño |
|---|---|---|
| Protección de datos persoais | Os datos persoais poden transmitirse a sistemas externos durante o proceso de chamada | Transmitir só os datos necesarios e xestionar o cifrado, o período de conservación e as condicións de comunicación a terceiros |
| Permisos de acceso | Pódese acceder a datos ou funcións para os que non se dispón de permisos de uso | Aplicar a autenticación do usuario e permisos segundo o rol, e volver comprobar os permisos antes da chamada |
| Precisión dos datos | A API pode devolver valores obsoletos ou incorrectos | Indicar o momento e a fonte dos datos, e aplicar a validación e a verificación cruzada |
| Responsabilidade da execución | Durante unha reserva, un pagamento ou un envío, pódese confirmar unha acción non intencionada | Aplicar pasos de confirmación e aprobación do usuario ás accións difíciles de cancelar |
| Xestión de custos | Os custos operativos poden aumentar debido a chamadas repetidas e solicitudes masivas | Establecer límites no número de chamadas, almacenamento de resultados e regras para evitar solicitudes duplicadas |
| Mantemento | As API externas e os formatos de entrada poden cambiar | Operar con xestión de versións, probas automatizadas, detección de fallos e procedementos alternativos |
- Limita a información sensible ao ámbito necesario para o propósito da chamada.
- Establece unha etapa de aprobación do usuario para os pagos, as reservas, os envíos e as eliminacións.
- Rexistra continuamente o tempo de resposta das ferramentas, a taxa de erros e o custo das chamadas.
- Mostra nos resultados a fonte dos datos externos e o momento da consulta.
- Cando se produce un fallo dunha ferramenta, aplica criterios sobre o número de reintentos e o procesamento alternativo.
A orientación de CLEVI para a aplicación ao traballo real
A utilidade da IA no traballo depende do rendemento do modelo, das ferramentas que se poden conectar, da precisión da execución e do nivel de controis de seguridade. Ao conectar varias ferramentas a unha única solicitude, pódese xestionar nunha mesma pantalla todo o proceso, desde a busca de información ata a organización dos resultados e as tarefas posteriores. Ao reflectir os permisos e os procedementos de aprobación específicos de cada tarefa, é posible reducir o traballo repetitivo mantendo as políticas de seguridade da organización.
- Tool Calling
- Function Calling
- IA xerativa
- Axente de IA
- Automatización de tarefas
- Integración de API