Hvis du vil slå dagens vejr, KTX-køreplanen, valutakurser og interne virksomhedsdata op, skal du skifte mellem flere apps og systemer. AI, der kun bruger oplysninger fra det tidspunkt, hvor træningen blev afsluttet, har svært ved at afspejle situationer, der hele tiden ændrer sig.
Tool Calling gør det muligt for AI at vælge eksterne værktøjer, der passer til brugerens anmodning, hente de nyeste oplysninger og udføre opgaver. Denne artikel beskriver, hvordan Tool Calling fungerer, anvendelsesområderne og de forhold, der skal tages i betragtning ved design.
Hvad er Tool Calling
Tool Calling er en teknologi, der forbinder store sprogmodeller med eksterne funktioner, API'er, databaser og virksomhedssystemer, så de kan kaldes. AI analyserer brugerens anmodning, fastlægger de nødvendige værktøjer og inputværdier og bruger derefter de resultater, værktøjerne returnerer, til at formulere et svar eller udføre den næste opgave.
| Klassifikation | Behandling baseret på træningsdata | Behandling baseret på Tool Calling |
|---|---|---|
| Tidspunkt for oplysninger | Brug af oplysninger frem til modellens træningstidspunkt | Brug af eksterne data på kaldtidspunktet |
| Beregning | Generering af resultater ud fra konteksten | Kontrol af resultater ved at kalde en lommeregner eller beregningsfunktion |
| Interne virksomhedsdata | Brug af oplysninger, der er inkluderet i træningsprocessen | Opslag i databaser og dokumentsystemer, som de tildelte rettigheder giver adgang til |
| Udførelse af opgaver | Generering af svartekst | Udførelse af opgaver som reservation, registrering, afsendelse og oprettelse af rapporter |
Sådan behandles en anmodning
Hvad kan lade sig gøre med Tool Calling
Tool Calling forbinder informationssøgning og udførelse af opgaver i ét samtaleforløb. Brugere kan angive betingelser på naturligt sprog uden at kende de enkelte tjenesters søgemetoder eller menupunkter. Virksomheder kan konfigurere de værktøjer, der kan kaldes, forskelligt i henhold til brugerrettigheder og arbejdsregler.
| Anvendelsesområder | Forbundne systemer | Eksempler på behandling |
|---|---|---|
| Information i realtid | Vejr-, trafik-, valuta- og aktiekurs-API'er | Hentning af information på det aktuelle tidspunkt og sammenligning efter betingelser |
| Præcise beregninger | Lommeregner, statistikfunktioner og API'er til prisberegning | Beregning af skatter, afstande, omkostninger og statistiske værdier |
| Interne oplysninger | Dokumentlagre, databaser og søgesystemer | Søgning efter regler, kontrakter og resultater inden for brugerens rettighedsområde |
| Kalenderstyring | Kalendere og bookingsystemer | Kontrol af ledige tidspunkter og oprettelse af aftaler |
| Kommunikation | E-mail, messengere og notifikationssystemer | Udarbejdelse og afsendelse af meddelelser efter brugerens godkendelse |
| Arbejdsautomatisering | Rapporterings-, CRM- og ERP-systemer | Indsamling af data, udfyldning af formularer og ændring af status |
Forhold, der skal afklares ved design
Når forbindelserne til eksterne systemer øges, udvides også omfanget af dataadgang og udførelsesrettigheder. Tjenesteoperatører skal konkret fastlægge valideringsprocedurer før og efter kald, håndtering af fejl og omkostningsgrænser. Brugere skal kunne se, hvilke oplysninger der videregives til hvilke systemer.
| Kontrolpunkt | Mulige problemer | Designmetode |
|---|---|---|
| Beskyttelse af personoplysninger | Personoplysninger kan blive videregivet til eksterne systemer under kaldet | Send kun nødvendige data, og administrer kryptering, opbevaringsperiode og betingelser for videregivelse til tredjeparter |
| Adgangsrettigheder | Der kan opnås adgang til data eller funktioner, som brugeren ikke har tilladelse til at bruge | Anvend brugerautentificering og rollebaserede rettigheder, og kontrollér rettighederne igen før kaldet |
| Datapræcision | API'et kan returnere forældede eller forkerte værdier | Vis dataenes tidspunkt og kilde, og anvend validering og krydsverifikation |
| Ansvar for udførelse | Utilsigtede handlinger kan blive bekræftet under booking, betaling eller afsendelse | Anvend brugerbekræftelse og godkendelsestrin for handlinger, der er vanskelige at annullere |
| Omkostningsstyring | Driftsomkostningerne kan stige på grund af gentagne kald og masseanmodninger | Fastsæt grænser for antal kald, gem resultater, og opret regler for at forhindre duplikerede anmodninger |
| Vedligeholdelse | Eksterne API'er og inputformater kan blive ændret | Administrer versionsstyring, automatiserede tests, registrering af driftsforstyrrelser og alternative behandlingsprocedurer |
- Begræns følsomme oplysninger til det omfang, der er nødvendigt for formålet med kaldet.
- Indfør et trin, hvor brugeren godkender betalinger, reservationer, afsendelse og sletning.
- Registrer løbende værktøjernes svartid, fejlrate og omkostninger pr. kald.
- Vis kilden til eksterne data og tidspunktet for opslaget i resultatet.
- Hvis et værktøj svigter, skal der anvendes kriterier for antal genforsøg og alternativ håndtering.
CLEVI's tilgang til anvendelse i praksis
AI's anvendelighed i arbejdet afhænger af modellens ydeevne, de værktøjer, der kan tilsluttes, nøjagtigheden af udførelsen og niveauet af sikkerhedskontrol. Ved at tilslutte flere værktøjer til én forespørgsel kan alt fra informationssøgning til strukturering af resultater og efterfølgende opgaver håndteres på samme skærm. Ved at afspejle arbejdsområdespecifikke tilladelser og godkendelsesprocedurer kan organisationen reducere gentagne opgaver og samtidig opretholde sine sikkerhedspolitikker.
- Tool Calling
- Function Calling
- Generativ AI
- AI-agent
- Automatisering af arbejdsopgaver
- API-integration