För att hämta dagens väder, KTX-tidtabellen, växelkurser och interna dokument måste man växla mellan flera appar och system. AI som endast använder information fram till tidpunkten då inlärningen avslutades har svårt att återspegla situationer som förändras kontinuerligt.
Tool Calling gör det möjligt för AI att välja externa verktyg som passar användarens begäran samt hämta aktuell information och utföra arbetsuppgifter. I den här artikeln förklaras hur Tool Calling fungerar, inom vilka områden det kan användas och vad man bör kontrollera vid utformningen.
Vad är Tool Calling
Tool Calling är en teknik som kopplar stora språkmodeller till externa funktioner, API:er, databaser och verksamhetssystem. AI analyserar användarens begäran, fastställer nödvändiga verktyg och indata och använder sedan resultatet från verktygen för att formulera ett svar eller utföra nästa uppgift.
| Kategori | Bearbetning baserad på träningsdata | Bearbetning baserad på Tool Calling |
|---|---|---|
| Informationsaktualitet | Använder information fram till modellens träningstidpunkt | Använder externa data från tidpunkten för anropet |
| Beräkning | Genererar resultat utifrån sammanhanget | Kontrollerar resultatet genom att anropa en kalkylator eller beräkningsfunktion |
| Interna dokument | Använder endast information som ingick i träningsprocessen | Hämtar data från databaser och dokumentsystem som behörigheten tillåter |
| Utförande av arbetsuppgifter | Genererar svarstext | Utför uppgifter som bokning, registrering, sändning och rapportgenerering |
Så behandlas en begäran
Vad som är möjligt med Tool Calling
Tool Calling kopplar samman informationshämtning och åtgärder i ett enda konversationsflöde. Användare kan ange villkor på naturligt språk utan att behöva känna till hur de olika tjänsterna söker eller var menyerna finns. Företag kan konfigurera vilka verktyg som får anropas på olika sätt utifrån användarbehörigheter och verksamhetsregler.
| Användningsområden | Anslutna system | Exempel på hantering |
|---|---|---|
| Information i realtid | API:er för väder, trafik, valutakurser och aktiekurser | Hämtning av aktuell information och jämförelse utifrån villkor |
| Exakta beräkningar | Kalkylatorer, statistiska funktioner och API:er för avgiftsberäkning | Beräkning av skatt, avstånd, kostnader och statistiska värden |
| Intern information | Dokumentlagring, databaser och söksystem | Sökning efter policyer, avtal och resultatuppgifter inom behörighetsområdet |
| Kalenderhantering | Kalendrar och bokningssystem | Kontroll av tillgängliga tider och registrering av bokningar |
| Kommunikation | E-post, meddelandetjänster och aviseringstjänster | Skapande och sändning av meddelanden efter användarens godkännande |
| Arbetsautomatisering | System för rapporter, kundhantering och affärsresursplanering | Insamling av material, ifyllnad av formulär och ändring av status |
Aspekter att kontrollera vid utformningen
När anslutningarna till externa system ökar utökas även omfattningen av dataåtkomst och behörigheter att utföra åtgärder. Tjänsteoperatören måste konkret fastställa verifieringsprocesser före och efter anrop, rutiner för felhantering och kostnadsgränser. Användaren måste kunna kontrollera vilken information som överförs till vilket system.
| Kontrollpunkt | Möjligt problem | Utformningsmetod |
|---|---|---|
| Skydd av personuppgifter | Personuppgifter kan överföras till externa system under anropsprocessen | Överför endast nödvändiga data och hantera kryptering, lagringsperioder och villkor för utlämnande till tredje part |
| Åtkomstbehörigheter | Det kan gå att komma åt material eller funktioner som användaren saknar behörighet till | Tillämpa användarautentisering och rollbaserade behörigheter och verifiera behörigheten igen före anropet |
| Datakorrekthet | API:et kan returnera föråldrade eller felaktiga värden | Visa informationens tidpunkt och källa och tillämpa validering och korskontroll |
| Ansvar för åtgärder | Oavsiktliga åtgärder kan bekräftas under bokning, betalning eller sändning | Tillämpa steg för användarbekräftelse och godkännande för åtgärder som är svåra att avbryta |
| Kostnadshantering | Driftskostnaderna kan öka på grund av upprepade anrop och stora mängder förfrågningar | Fastställ regler för begränsning av antalet anrop, lagring av resultat och förhindrande av dubblettförfrågningar |
| Underhåll | Externa API:er och indataformat kan ändras | Hantera versionshantering, automatiska tester, felidentifiering och alternativa hanteringsrutiner |
- Begränsa känsliga uppgifter till det som krävs för syftet med anropet.
- Inför ett steg för användargodkännande vid betalningar, bokningar, överföringar och raderingar.
- Dokumentera kontinuerligt verktygens svarstider, felfrekvenser och kostnader per anrop.
- Visa källan till externa data och när de hämtades i resultatet.
- Tillämpa kriterier för antal omförsök och alternativ hantering om ett verktyg slutar fungera.
CLEVI:s inriktning för tillämpning i det praktiska arbetet
AI:s användbarhet i arbetet beror på modellens prestanda, vilka verktyg som kan anslutas, hur korrekt de körs och nivån på säkerhetskontrollerna. Genom att ansluta flera verktyg till en och samma begäran kan allt från informationssökning till sammanställning av resultat och efterföljande åtgärder hanteras på samma skärm. Genom att återspegla behörigheter och godkännandeprocesser för varje arbetsuppgift kan organisationen minska repetitivt arbete och samtidigt upprätthålla sina säkerhetspolicyer.
- Tool Calling
- Funktionsanrop
- Generativ AI
- AI-agent
- Automatisering av arbetsuppgifter
- API-integration