Per consultar per separat el temps d’avui, els horaris del KTX, els tipus de canvi i els materials interns de l’empresa, cal anar canviant entre diverses aplicacions i sistemes. A una IA que només utilitza informació disponible fins al moment en què es completa l’entrenament li resulta difícil reflectir situacions que canvien constantment.
El Tool Calling permet que la IA seleccioni eines externes adequades a la sol·licitud de l’usuari, consulti informació actualitzada i executi tasques. En aquest article s’expliquen el funcionament del Tool Calling, el seu àmbit d’aplicació i els aspectes que cal comprovar durant el disseny.
Què és el Tool Calling
El Tool Calling és una tecnologia que connecta els models de llenguatge de grans dimensions amb funcions externes, API, bases de dades i sistemes empresarials perquè els puguin invocar. Després d’analitzar la sol·licitud de l’usuari, la IA determina les eines necessàries i els valors d’entrada, i utilitza els resultats retornats per les eines per respondre o executar la tasca següent.
| Classificació | Processament basat en dades d’entrenament | Processament basat en Tool Calling |
|---|---|---|
| Moment de la informació | Ús de la informació disponible fins al moment de l’entrenament del model | Ús de dades externes disponibles en el moment de la invocació |
| Càlcul | Generació del resultat a partir del context | Comprovació del resultat invocant una calculadora o una funció de càlcul |
| Materials interns de l’empresa | Ús únicament de la informació inclosa en el procés d’entrenament | Consulta de bases de dades i sistemes documentals als quals es té accés |
| Execució de tasques | Generació de frases de resposta | Execució de tasques com ara fer reserves, registrar, enviar i generar informes |
Procés de tractament de la sol·licitud
Què es pot fer amb el Tool Calling
El Tool Calling connecta la consulta d’informació i l’execució de tasques en un únic flux de conversa. Els usuaris poden transmetre les seves condicions en llenguatge natural sense haver de conèixer la manera de cercar o la ubicació dels menús de cada servei. Les empreses poden configurar de manera diferent les eines que es poden invocar segons els permisos dels usuaris i les regles de treball.
| Àmbits d’aplicació | Objectius de connexió | Exemples de processament |
|---|---|---|
| Informació en temps real | API del temps, del trànsit, dels tipus de canvi i de les cotitzacions borsàries | Consulta d’informació actual i comparació segons les condicions |
| Càlcul precís | Calculadores, funcions estadístiques i API de càlcul de tarifes | Càlcul d’impostos, distàncies, costos i valors estadístics |
| Informació interna de l’empresa | Repositoris de documents, bases de dades i sistemes de cerca | Cerca de normatives, contractes i dades de resultats dins de l’àmbit dels permisos |
| Gestió d’agendes | Calendaris i sistemes de reserves | Comprovació de les hores disponibles i registre d’esdeveniments |
| Comunicació | Sistemes de correu electrònic, missatgeria i notificacions | Redacció i enviament de missatges després de l’aprovació de l’usuari |
| Automatització de tasques | Sistemes d’informes, gestió de clients i planificació de recursos empresarials | Recollida de dades, emplenament de formularis i canvi d’estat |
Aspectes que cal comprovar durant el disseny
A mesura que augmenten les connexions amb sistemes externs, també s’amplien l’abast de l’accés a les dades i els permisos d’execució. Els operadors del servei han de definir detalladament els procediments de validació abans i després de les invocacions, la manera de respondre als errors i els límits de cost. Els usuaris han de poder comprovar quina informació es transmet a quin sistema.
| Elements de comprovació | Problemes possibles | Mètodes de disseny |
|---|---|---|
| Protecció de dades personals | Durant el procés d’invocació, les dades personals es poden transmetre a sistemes externs | Transmetre només les dades necessàries i gestionar el xifratge, el període de conservació i les condicions de comunicació a tercers |
| Permisos d’accés | Es pot accedir a dades o funcions per a les quals no es disposa d’autorització | Aplicar l’autenticació dels usuaris i els permisos segons els rols, i tornar a comprovar els permisos abans de la invocació |
| Precisió de les dades | L’API pot retornar valors antics o incorrectes | Mostrar la data i la font de les dades i aplicar comprovacions de validesa i verificacions creuades |
| Responsabilitat de l’execució | Durant les reserves, els pagaments o els enviaments, es poden confirmar accions no desitjades | Aplicar passos de confirmació i aprovació de l’usuari a les tasques difícils de cancel·lar |
| Gestió de costos | Les invocacions repetides i les sol·licituds massives poden augmentar els costos operatius | Establir límits en el nombre d’invocacions, desar els resultats i definir regles per evitar sol·licituds duplicades |
| Manteniment | Les API externes i els formats d’entrada poden canviar | Gestionar el control de versions, les proves automatitzades, la detecció d’incidències i els procediments alternatius |
- Limitem la informació sensible a l’abast necessari per a l’objectiu de la crida.
- Establim una etapa d’aprovació de l’usuari per a les operacions de pagament, reserva, enviament i eliminació.
- Registrem contínuament el temps de resposta, la taxa d’errors i el cost de les crides a les eines.
- Mostrem als resultats la font de les dades externes i el moment de la consulta.
- Quan es produeix una fallada de l’eina, apliquem criteris sobre el nombre de reintents i el processament alternatiu.
L’orientació de Clevi per aplicar-lo a la feina
El grau d’utilització de la IA en la feina depèn del rendiment del model, de les eines que es poden connectar, de la precisió de l’execució i del nivell de controls de seguretat. En connectar diverses eines a una mateixa sol·licitud, es pot gestionar des de la cerca d’informació fins a l’organització dels resultats i les tasques posteriors en una mateixa pantalla. Si es reflecteixen els permisos i els procediments d’aprovació corresponents a cada tasca, es poden reduir les tasques repetitives mantenint les polítiques de seguretat de l’organització.
- Tool Calling
- Function Calling
- IA generativa
- Agents d’IA
- Automatització de tasques
- Integració amb API