Per consultare rispettivamente il meteo di oggi, gli orari dei treni KTX, i tassi di cambio e i documenti aziendali, è necessario passare da diverse app e sistemi. Un'IA che utilizza solo le informazioni disponibili al termine dell'addestramento ha difficoltà a riflettere situazioni in continua evoluzione.
Il Tool Calling consente all'IA di selezionare gli strumenti esterni adatti alla richiesta dell'utente, consultare informazioni aggiornate ed eseguire attività. In questo articolo vengono illustrati il funzionamento del Tool Calling, il suo ambito di utilizzo e gli aspetti da verificare in fase di progettazione.
Che cos'è il Tool Calling
Il Tool Calling è una tecnologia che collega i modelli linguistici di grandi dimensioni a funzioni esterne, API, database e sistemi aziendali. Dopo aver analizzato la richiesta dell'utente, l'IA determina gli strumenti e i valori di input necessari, quindi utilizza i risultati restituiti dagli strumenti per fornire una risposta o eseguire l'attività successiva.
| Classificazione | Elaborazione basata sui dati di addestramento | Elaborazione basata sul Tool Calling |
|---|---|---|
| Momento delle informazioni | Utilizzo delle informazioni disponibili fino al momento dell'addestramento del modello | Utilizzo di dati esterni disponibili al momento della chiamata |
| Calcolo | Generazione del risultato sulla base del contesto | Verifica del risultato chiamando una calcolatrice o una funzione di calcolo |
| Documenti aziendali | Utilizzo esclusivo delle informazioni incluse nel processo di addestramento | Consultazione di database e sistemi documentali autorizzati |
| Esecuzione delle attività | Generazione di una risposta testuale | Esecuzione di attività come prenotazioni, registrazioni, invii e creazione di report |
Processo di elaborazione della richiesta
Cosa è possibile fare con il Tool Calling
Il Tool Calling collega il recupero di informazioni e l’esecuzione di attività in un unico flusso conversazionale. Gli utenti possono comunicare le proprie condizioni in linguaggio naturale senza dover conoscere le modalità di ricerca o la posizione dei menu di ciascun servizio. Le aziende possono configurare in modo diverso gli strumenti disponibili in base alle autorizzazioni degli utenti e alle regole operative.
| Ambito di utilizzo | Destinazioni di connessione | Esempi di elaborazione |
|---|---|---|
| Informazioni in tempo reale | API meteo, traffico, tassi di cambio e quotazioni azionarie | Recupero di informazioni aggiornate e confronto in base alle condizioni |
| Calcoli accurati | Calcolatrici, funzioni statistiche, API per il calcolo delle tariffe | Calcolo di imposte, distanze, costi e valori statistici |
| Informazioni aziendali | Archivi documentali, database, sistemi di ricerca | Ricerca di regolamenti, contratti e dati sulle prestazioni nei limiti delle autorizzazioni |
| Gestione degli appuntamenti | Calendari, sistemi di prenotazione | Verifica degli orari disponibili e registrazione degli appuntamenti |
| Comunicazione | Sistemi di posta elettronica, messaggistica e notifiche | Redazione e invio di messaggi dopo l’approvazione dell’utente |
| Automazione delle attività | Sistemi di reportistica, gestione dei clienti e pianificazione delle risorse aziendali | Raccolta di dati, compilazione di moduli e modifica dello stato |
Aspetti da verificare in fase di progettazione
Con l’aumento delle connessioni ai sistemi esterni, si ampliano anche l’ambito di accesso ai dati e i permessi di esecuzione. I gestori del servizio devono definire in modo concreto le procedure di verifica prima e dopo le chiamate, le modalità di gestione degli errori e i limiti di costo. Gli utenti devono poter verificare quali informazioni vengono trasmesse e a quale sistema.
| Elemento di verifica | Possibili problemi | Metodo di progettazione |
|---|---|---|
| Protezione dei dati personali | Durante il processo di chiamata, i dati personali potrebbero essere trasmessi a sistemi esterni | Trasmettere solo i dati necessari e gestire la crittografia, il periodo di conservazione e le condizioni per la comunicazione a terzi |
| Autorizzazioni di accesso | Si potrebbe accedere a dati o funzioni per i quali non si dispone dell’autorizzazione | Applicare l’autenticazione degli utenti e le autorizzazioni in base ai ruoli, verificando nuovamente le autorizzazioni prima della chiamata |
| Accuratezza dei dati | L’API potrebbe restituire valori obsoleti o errati | Indicare il momento di riferimento e la fonte dei dati, applicando controlli di validità e verifiche incrociate |
| Responsabilità dell’esecuzione | Durante prenotazioni, pagamenti o invii, potrebbero essere confermate operazioni non intenzionali | Applicare fasi di conferma e approvazione dell’utente alle operazioni difficili da annullare |
| Gestione dei costi | I costi operativi potrebbero aumentare a causa di chiamate ripetute e richieste in massa | Impostare limiti al numero di chiamate, il salvataggio dei risultati e regole per prevenire richieste duplicate |
| Manutenzione | Le API esterne e i formati di input potrebbero cambiare | Gestire il controllo delle versioni, i test automatici, il rilevamento dei guasti e le procedure di elaborazione alternative |
- Limitiamo le informazioni sensibili all'ambito necessario per lo scopo della chiamata.
- Prevediamo una fase di approvazione dell'utente per le operazioni di pagamento, prenotazione, invio ed eliminazione.
- Registriamo costantemente i tempi di risposta, il tasso di errore e i costi delle chiamate agli strumenti.
- Indichiamo nei risultati la fonte dei dati esterni e il momento della consultazione.
- In caso di malfunzionamento degli strumenti, applichiamo criteri per il numero di tentativi e per la gestione alternativa.
L'approccio di CLEVI all'applicazione concreta nel lavoro
L'utilità dell'AI nel lavoro dipende dalle prestazioni del modello, dagli strumenti collegabili, dalla precisione nell'esecuzione e dal livello dei controlli di sicurezza. Collegando più strumenti a una singola richiesta, è possibile gestire dalla ricerca delle informazioni alla loro organizzazione e alle attività successive, tutto dalla stessa schermata. Riflettendo i permessi e le procedure di approvazione specifici per ciascuna attività, è possibile ridurre il lavoro ripetitivo mantenendo le politiche di sicurezza dell'organizzazione.
- Tool Calling
- Function Calling
- AI generativa
- Agenti AI
- Automazione dei processi
- Integrazione API