For å sjekke vêret i dag, KTX-tidtabellen, valutakursar og interne dokument må du veksle mellom fleire appar og system. AI som berre bruker informasjon fram til tidspunktet då opplæringa vart avslutta, har vanskar med å gjenspegle situasjonar som stadig endrar seg.
Tool Calling gjer det mogleg for AI å velje eksterne verktøy som passar til førespurnaden frå brukaren, og å hente inn oppdatert informasjon og utføre arbeidsoppgåver. I denne artikkelen forklarer vi korleis Tool Calling fungerer, kva det kan brukast til, og kva ein bør kontrollere ved utforminga.
Kva er Tool Calling
Tool Calling er ein teknologi som koplar store språkmodellar til eksterne funksjonar, API-ar, databasar og forretningssystem, slik at dei kan kallast. AI analyserer førespurnaden frå brukaren, fastset nødvendige verktøy og inndata, og bruker resultata som verktøya returnerer, til å svare eller utføre neste oppgåve.
| Inndeling | Behandling basert på opplæringsdata | Behandling basert på Tool Calling |
|---|---|---|
| Tidspunkt for informasjon | Bruk av informasjon fram til tidspunktet for modellopplæringa | Bruk av eksterne data på tidspunktet for kallet |
| Utrekning | Generering av resultat basert på kontekst | Kontroll av resultatet ved å kalle ein kalkulator eller ein utrekningsfunksjon |
| Interne dokument | Berre bruk av informasjon som er teken med i opplæringsprosessen | Oppslag i databasar og dokumentsystem som tilgangen tillèt |
| Utføring av arbeidsoppgåver | Generering av svartekst | Utføring av oppgåver som bestillingar, registrering, sending og oppretting av rapportar |
Slik blir førespurnaden behandla
Dette kan du gjere med Tool Calling
Tool Calling koplar informasjonsinnhenting og utføring av oppgåver saman i éin samtaleflyt. Brukarar kan formidle vilkår på naturleg språk utan å kjenne til søjemetoden eller menyplasseringa til kvar teneste. Verksemder kan konfigurere kva verktøy som kan kallast, på ulike måtar i samsvar med brukarrettar og arbeidsreglar.
| Bruksområde | Tilknytingsmål | Døme på behandling |
|---|---|---|
| Sanntidsinformasjon | Vêr-, trafikk-, valutakurs- og aksjekurs-API-ar | Innhenting av informasjon på det aktuelle tidspunktet og samanlikning etter vilkår |
| Nøyaktige utrekningar | Kalkulator-, statistikkfunksjons- og gebyrbereknings-API-ar | Utrekning av skatt, avstand, kostnader og statistiske verdiar |
| Intern informasjon | Dokumentlager, databasar og søjesystem | Søk etter regelverk, kontraktar og resultatdata innanfor tilgangsrettane |
| Kalenderstyring | Kalendrar og reservasjonssystem | Kontroll av ledige tidspunkt og registrering av avtalar |
| Kommunikasjon | E-post, meldingstenester og varslingssystem | Utarbeiding og sending av meldingar etter godkjenning frå brukaren |
| Arbeidsautomatisering | System for rapportering, kundehandsaming og verksemdsressursplanlegging | Innsamling av data, utfylling av skjema og endring av status |
Dette må du kontrollere ved utforminga
Når tilknytinga til eksterne system aukar, blir også omfanget av datatilgang og gjennomføringsrettar utvida. Tenesteoperatøren må konkret fastsetje kontrollprosedyrar før og etter kall, handtering av feil og kostnadsgrenser. Brukaren må kunne kontrollere kva informasjon som blir send til kva system.
| Kontrollpunkt | Moglege problem | Utformingsmetode |
|---|---|---|
| Personvern | Personopplysningar kan bli sende til eksterne system under kallet | Send berre nødvendige data, og administrer kryptering, lagringstid og vilkår for utlevering til tredjepartar |
| Tilgangsrettar | Det kan bli oppnådd tilgang til materiale eller funksjonar brukaren ikkje har rett til å bruke | Bruk brukarautentisering og rollebaserte tilgangsrettar, og stadfest rettane på nytt før kallet |
| Datapresisjon | API-et kan returnere utdaterte eller feilaktige verdiar | Vis tidspunkt og kjelde for data, og bruk validering og kryssjekk |
| Ansvar for utføring | Utilsikta handlingar kan bli stadfesta under prosessar som reservasjon, betaling eller sending | Bruk stadfesting frå brukaren og godkjenningssteg for handlingar som er vanskelege å avbryte |
| Kostnadsstyring | Driftskostnadene kan auke på grunn av gjentekne kall og store førespurnader | Fastset grenser for talet på kall, lagring av resultat og reglar som hindrar dupliserte førespurnader |
| Vedlikehald | Eksterne API-ar og inndataformat kan bli endra | Bruk versjonsstyring, automatiserte testar, feildeteksjon og alternative behandlingsprosedyrar |
- Sensitiv informasjon blir avgrensa til det som er nødvendig for formålet med kallet.
- Det blir lagt inn eit trinn for brukargodkjenning ved betalingar, bestillingar, overføringar og sletting.
- Responstid, feilrate og kostnader per verktøykall blir loggførte kontinuerleg.
- Kjelda til eksterne data og tidspunktet for oppslaget blir viste i resultatet.
- Ved feil i verktøy blir det brukt kriterium for talet på nye forsøk og alternativ behandling.
CLEVI si retning for praktisk bruk i arbeidet
Kor nyttig KI er i arbeidet, avheng av modellprestasjon, verktøy som kan koplast til, nøyaktig utføring og nivået på tryggingskontrollane. Når fleire verktøy blir kopla til éi førespurnad, kan ein handtere alt frå informasjonssøk til strukturering av resultat og oppfølgingsoppgåver på same skjerm. Ved å ta omsyn til tilgangar og godkjenningsprosedyrar for kvar arbeidsoppgåve kan ein redusere repeterande arbeid og samtidig oppretthalde tryggingsreglane i organisasjonen.
- Tool Calling
- Function Calling
- Generativ KI
- KI-agent
- Automatisering av arbeidsoppgåver
- API-integrasjon