For å sjekke dagens vær, KTX-rutetider, valutakurser og interne dokumenter må du gå mellom flere apper og systemer. AI som bare bruker informasjon fra tidspunktet da opplæringen ble avsluttet, har problemer med å gjenspeile situasjoner som stadig endrer seg.
Tool Calling gjør det mulig for AI å velge eksterne verktøy som passer til brukerens forespørsel, hente oppdatert informasjon og utføre oppgaver. I denne artikkelen forklarer vi hvordan Tool Calling fungerer, hvilke bruksområder det har, og hva du bør kontrollere ved utformingen.
Hva er Tool Calling
Tool Calling er en teknologi som kobler store språkmodeller til eksterne funksjoner, API-er, databaser og forretningssystemer. AI analyserer brukerens forespørsel, bestemmer hvilke verktøy og inndata som trengs, og bruker resultatene verktøyene returnerer til å svare eller utføre neste oppgave.
| Sammenligning | Behandling basert på opplæringsdata | Behandling basert på Tool Calling |
|---|---|---|
| Tidspunkt for informasjon | Bruker informasjon frem til tidspunktet for modellens opplæring | Bruker eksterne data fra tidspunktet for kallingen |
| Beregning | Genererer resultater basert på kontekst | Kaller en kalkulator eller beregningsfunksjon for å bekrefte resultatet |
| Interne dokumenter | Bruker bare informasjon som inngikk i opplæringen | Slår opp i databaser og dokumentsystemer som tillatelsene gir tilgang til |
| Utførelse av oppgaver | Genererer svartekst | Utfører oppgaver som å bestille, registrere, sende og opprette rapporter |
Slik behandles en forespørsel
Hva som er mulig med Tool Calling
Tool Calling kobler informasjonsinnhenting og oppgaveutførelse sammen i én samtaleflyt. Brukere kan oppgi betingelser på naturlig språk uten å kjenne til søkemetoden eller menyplasseringen til hver tjeneste. Virksomheter kan konfigurere hvilke verktøy som kan kalles, basert på brukerrettigheter og arbeidsregler.
| Bruksområder | Tilkoblede systemer | Eksempler på behandling |
|---|---|---|
| Sanntidsinformasjon | Vær-, trafikk-, valutakurs- og aksjekurs-API-er | Innhenting av aktuell informasjon og sammenligning etter betingelser |
| Nøyaktige beregninger | Kalkulatorer, statistikkfunksjoner og API-er for prisberegning | Beregning av skatter, avstander, kostnader og statistikkverdier |
| Intern informasjon | Dokumentlagre, databaser og søkesystemer | Søk etter regler, kontrakter og resultatdata innenfor brukerens tilgangsområde |
| Kalenderstyring | Kalendere og reservasjonssystemer | Kontroll av tilgjengelige tidspunkter og registrering av avtaler |
| Kommunikasjon | E-post, direktemeldinger og varslingssystemer | Utarbeiding og sending av meldinger etter brukerens godkjenning |
| Arbeidsautomatisering | Systemer for rapportering, kundehåndtering og virksomhetsressursplanlegging | Innsamling av data, utfylling av skjemaer og endring av status |
Forhold som må avklares under utformingen
Når tilkoblingen til eksterne systemer øker, utvides også omfanget av datatilgang og utførelsesrettigheter. Tjenesteoperatører må konkret fastsette valideringsprosedyrer før og etter kall, håndtering av feil og kostnadsgrenser. Brukere må kunne kontrollere hvilken informasjon som overføres til hvilket system.
| Kontrollpunkt | Mulige problemer | Utformingsmetode |
|---|---|---|
| Personvern | Personopplysninger kan bli overført til eksterne systemer under kallprosessen | Send kun nødvendige data, og administrer kryptering, lagringsperiode og vilkår for utlevering til tredjeparter |
| Tilgangsrettigheter | Det kan gis tilgang til data eller funksjoner brukeren ikke har tillatelse til å bruke | Bruk autentisering og rollebaserte tilgangsrettigheter, og bekreft rettighetene på nytt før kall |
| Datakvalitet | API-et kan returnere utdaterte eller feilaktige verdier | Vis tidspunkt og kilde for dataene, og bruk validering og kryssjekking |
| Ansvar for utførelse | Utilsiktede handlinger kan bli bekreftet under bestilling, betaling eller sending | Bruk trinn for brukerbekreftelse og godkjenning for handlinger som er vanskelige å avbryte |
| Kostnadsstyring | Driftskostnadene kan øke på grunn av gjentatte kall og omfattende forespørsler | Angi grenser for antall kall, lagre resultater og fastsett regler for å forhindre dupliserte forespørsler |
| Vedlikehold | Eksterne API-er og inndataformater kan bli endret | Administrer versjoner, automatiserte tester, feildeteksjon og alternative behandlingsprosedyrer |
- Begrens sensitiv informasjon til det som er nødvendig for formålet med forespørselen.
- Krev brukerens godkjenning for betalinger, bestillinger, overføringer og slettinger.
- Logg kontinuerlig verktøyenes responstid, feilrate og kostnad per kall.
- Vis kilden til eksterne data og tidspunktet for oppslaget i resultatet.
- Ved verktøyfeil skal antall nye forsøk og kriterier for alternativ håndtering benyttes.
CLEVI-tilnærmingen for bruk i det faktiske arbeidet
Nytten av AI i arbeidet avhenger av modellytelse, tilgjengelige verktøy, nøyaktigheten i utførelsen og nivået på sikkerhetskontrollene. Ved å koble flere verktøy til én forespørsel kan du håndtere alt fra informasjonsinnhenting til organisering av resultater og oppfølgingsoppgaver på samme skjerm. Ved å innarbeide tilgangsrettigheter og godkjenningsprosedyrer for hvert arbeidsområde kan du redusere repetitive oppgaver samtidig som organisasjonens sikkerhetspolicy opprettholdes.
- Tool Calling
- Function Calling
- Generativ AI
- AI-agent
- Arbeidsautomatisering
- API-integrasjon