Da biste zasebno provjerili današnje vrijeme, vozni red KTX-a, tečaj valuta i interne materijale, morate prelaziti između više aplikacija i sustava. AI koji upotrebljava samo informacije dostupne do trenutka završetka učenja teško odražava situacije koje se neprestano mijenjaju.
Tool Calling omogućuje AI-ju da odabere vanjske alate prikladne korisničkom zahtjevu te dohvaća najnovije informacije i izvršava poslovne zadatke. U ovom članku objašnjavamo kako Tool Calling funkcionira, područja primjene i na što treba obratiti pozornost pri dizajnu.
Što je Tool Calling
Tool Calling je tehnologija koja povezuje velike jezične modele s vanjskim funkcijama, API-jima, bazama podataka i poslovnim sustavima kako bi ih mogli pozivati. AI analizira korisnički zahtjev, određuje potrebne alate i ulazne vrijednosti, a zatim na temelju rezultata koje alati vrate sastavlja odgovor ili izvršava sljedeći zadatak.
| Kategorija | Obrada na temelju podataka za učenje | Obrada na temelju značajke Tool Calling |
|---|---|---|
| Vrijeme informacija | Upotreba informacija dostupnih do trenutka učenja modela | Upotreba vanjskih podataka dostupnih u trenutku poziva |
| Izračun | Generiranje rezultata na temelju konteksta | Provjera rezultata pozivanjem kalkulatora ili funkcije za izračun |
| Interni materijali | Upotreba samo informacija uključenih u proces učenja | Dohvaćanje podataka iz baza podataka i sustava za dokumente za koje su odobrena prava pristupa |
| Izvršavanje zadataka | Generiranje rečenice odgovora | Izvršavanje zadataka poput rezerviranja, registracije, slanja i izrade izvještaja |
Tijek obrade zahtjeva
Što je moguće uz Tool Calling
Pozivanje alata povezuje dohvaćanje informacija i izvršavanje zadataka u jedan tijek razgovora. Korisnici mogu prirodnim jezikom navesti uvjete bez poznavanja načina pretraživanja ili lokacije izbornika pojedinih usluga. Poduzeća mogu različito konfigurirati alate koji se mogu pozivati u skladu s korisničkim ovlastima i poslovnim pravilima.
| Područje primjene | Povezani sustavi | Primjer obrade |
|---|---|---|
| Informacije u stvarnom vremenu | API-ji za vremensku prognozu, promet, devizne tečajeve i cijene dionica | Dohvaćanje informacija u trenutku upita i usporedba prema uvjetima |
| Precizni izračuni | Kalkulatori, statističke funkcije i API-ji za izračun naknada | Izračun poreza, udaljenosti, troškova i statističkih vrijednosti |
| Interni podaci | Spremišta dokumenata, baze podataka i sustavi za pretraživanje | Pretraživanje pravilnika, ugovora i podataka o rezultatima u okviru ovlasti |
| Upravljanje rasporedom | Kalendari i sustavi za rezervacije | Provjera dostupnih termina i dodavanje događaja u raspored |
| Komunikacija | E-pošta, alati za razmjenu poruka i sustavi za obavijesti | Sastavljanje i slanje poruka nakon odobrenja korisnika |
| Automatizacija poslovanja | Sustavi za izvješća, upravljanje odnosima s korisnicima i planiranje resursa poduzeća | Prikupljanje podataka, ispunjavanje obrazaca i promjena statusa |
Stavke koje treba provjeriti pri dizajnu
Povećanjem broja povezanih vanjskih sustava istodobno se proširuju opseg pristupa podacima i ovlasti za izvršavanje. Operateri usluga moraju konkretno definirati postupke provjere prije i nakon pozivanja, načine odgovora na pogreške i ograničenja troškova. Korisnicima mora biti omogućeno provjeriti koje se informacije i kojem sustavu prenose.
| Stavka za provjeru | Mogući problem | Način dizajna |
|---|---|---|
| Zaštita osobnih podataka | Tijekom pozivanja osobni se podaci mogu prenijeti vanjskom sustavu | Prenositi samo potrebne podatke te upravljati šifriranjem, razdobljem pohrane i uvjetima pružanja podataka trećim stranama |
| Pristupne ovlasti | Može se pristupiti podacima ili funkcijama za koje ne postoje ovlasti korištenja | Primijeniti autentifikaciju korisnika i ovlasti prema ulogama te ponovno provjeriti ovlasti prije pozivanja |
| Točnost podataka | API može vratiti zastarjele ili netočne vrijednosti | Navesti vrijeme i izvor podataka te primijeniti provjeru valjanosti i unakrsnu provjeru |
| Odgovornost za izvršavanje | Tijekom rezervacije, plaćanja ili slanja može se potvrditi nenamjerna radnja | Za radnje koje je teško otkazati primijeniti potvrdu korisnika i korake odobrenja |
| Upravljanje troškovima | Operativni se troškovi mogu povećati zbog ponovljenih pozivanja i velikog broja zahtjeva | Postaviti ograničenja broja pozivanja, pohranu rezultata i pravila za sprječavanje dupliciranih zahtjeva |
| Održavanje | Vanjski API-ji i formati ulaza mogu se promijeniti | Upravljati verzijama, automatiziranim testovima i otkrivanjem kvarova te provoditi postupke zamjenske obrade |
- Osjetljive informacije ograničavamo na opseg potreban za svrhu poziva.
- Za plaćanja, rezervacije, prijenose i brisanja uvodimo korak korisničkog odobrenja.
- Kontinuirano bilježimo vrijeme odziva alata, stopu pogrešaka i troškove poziva.
- U rezultatima prikazujemo izvor vanjskih podataka i vrijeme dohvaćanja.
- U slučaju kvara alata primjenjujemo kriterije za broj ponovnih pokušaja i zamjensku obradu.
CLEVI-jev smjer za primjenu u stvarnom poslovanju
Iskoristivost AI-ja u poslovanju ovisi o performansama modela, alatima koji se mogu povezati, točnosti izvršavanja i razini sigurnosnih kontrola. Povezivanjem više alata s jednim zahtjevom moguće je na istom zaslonu obraditi sve, od pretraživanja informacija do organiziranja rezultata i naknadnih zadataka. Primjenom dozvola i postupaka odobravanja za pojedine poslovne procese moguće je smanjiti ponavljajuće zadatke uz održavanje sigurnosnih politika organizacije.
- Tool Calling
- Function Calling
- Generativni AI
- AI agent
- Automatizacija poslovanja
- Integracija API-ja