Da biste zasebno provjerili današnje vrijeme, vozni red KTX-a, kurs valute i interne materijale kompanije, morate prelaziti između više aplikacija i sistema. AI koji koristi samo informacije dostupne do trenutka završetka obuke teško može odražavati situacije koje se stalno mijenjaju.
Tool Calling omogućava AI-ju da odabere vanjske alate koji odgovaraju zahtjevu korisnika, provjeri najnovije informacije i izvrši poslovne zadatke. U ovom tekstu objašnjavamo način rada Tool Callinga, područja primjene i stvari koje treba provjeriti pri dizajnu.
Šta je Tool Calling
Tool Calling je tehnologija koja povezuje velike jezičke modele s vanjskim funkcijama, API-jima, bazama podataka i poslovnim sistemima. AI analizira zahtjev korisnika, zatim određuje potrebne alate i ulazne vrijednosti te koristi rezultate koje alat vrati kako bi odgovorio ili izvršio sljedeći zadatak.
| Kategorija | Obrada na osnovu podataka za obuku | Obrada na osnovu Tool Callinga |
|---|---|---|
| Vrijeme informacija | Korištenje informacija dostupnih do trenutka obuke modela | Korištenje vanjskih podataka dostupnih u trenutku poziva |
| Izračun | Generiranje rezultata na osnovu konteksta | Provjera rezultata pozivanjem kalkulatora ili funkcije za izračun |
| Interni materijali kompanije | Korištenje samo informacija uključenih u proces obuke | Pretraživanje baza podataka i sistema dokumenata za koje su odobrena prava pristupa |
| Izvršavanje zadataka | Generiranje odgovora u obliku rečenice | Izvršavanje zadataka kao što su rezervacija, registracija, slanje i izrada izvještaja |
Proces obrade zahtjeva
Šta je moguće uz Tool Calling
Pozivanje alata povezuje dohvat informacija i izvršavanje zadataka u jedan tok razgovora. Korisnici mogu prenijeti uslove prirodnim jezikom bez poznavanja načina pretraživanja ili lokacije menija pojedinačnih usluga. Kompanije mogu različito konfigurirati alate koji se mogu pozivati u skladu s korisničkim ovlaštenjima i poslovnim pravilima.
| Područja primjene | Povezani sistemi | Primjeri obrade |
|---|---|---|
| Informacije u stvarnom vremenu | API-ji za vremensku prognozu, saobraćaj, devizne kurseve i cijene dionica | Dohvat informacija u trenutnom trenutku i poređenje prema uslovima |
| Precizni proračuni | Kalkulatori, statističke funkcije, API-ji za izračun naknada | Izračun poreza, udaljenosti, troškova i statističkih vrijednosti |
| Interni podaci | Repozitoriji dokumenata, baze podataka, sistemi za pretraživanje | Pretraživanje propisa, ugovora i podataka o rezultatima u okviru ovlaštenja |
| Upravljanje rasporedom | Kalendari, sistemi za rezervaciju | Provjera dostupnih termina i upisivanje događaja u raspored |
| Komunikacija | E-pošta, glasnici, sistemi za obavještavanje | Sastavljanje i slanje poruka nakon odobrenja korisnika |
| Automatizacija poslovanja | Sistemi za izvještavanje, upravljanje odnosima s klijentima i planiranje resursa preduzeća | Prikupljanje podataka, popunjavanje obrazaca i promjena statusa |
Stavke koje treba provjeriti pri projektovanju
Kako se povećava broj povezanih vanjskih sistema, tako se proširuju i opseg pristupa podacima i ovlaštenja za izvršavanje. Operateri usluga moraju konkretno definisati postupke provjere prije i nakon pozivanja, načine reagovanja na greške i ograničenja troškova. Korisnici moraju moći provjeriti koje se informacije prenose u koji sistem.
| Stavka provjere | Mogući problem | Način projektovanja |
|---|---|---|
| Zaštita ličnih podataka | Lični podaci mogu biti preneseni u vanjski sistem tokom pozivanja | Prenositi samo potrebne podatke te upravljati šifriranjem, periodom čuvanja i uslovima ustupanja trećim stranama |
| Pristupna ovlaštenja | Moguće je pristupiti podacima ili funkcijama za koje ne postoje ovlaštenja za korištenje | Primijeniti autentifikaciju korisnika i ovlaštenja prema ulogama te ponovo provjeriti ovlaštenja prije pozivanja |
| Tačnost podataka | API može vratiti zastarjele ili netačne vrijednosti | Prikazati vrijeme i izvor podataka te primijeniti provjeru valjanosti i unakrsnu provjeru |
| Odgovornost za izvršavanje | Tokom rezervacije, plaćanja ili slanja može se potvrditi nenamjerna radnja | Za radnje koje je teško otkazati primijeniti korisničku potvrdu i faze odobrenja |
| Upravljanje troškovima | Operativni troškovi mogu porasti zbog ponovljenih pozivanja i velikog broja zahtjeva | Postaviti ograničenja broja pozivanja, pohranjivanje rezultata i pravila za sprečavanje dupliciranih zahtjeva |
| Održavanje | Vanjski API-ji i formati unosa mogu se promijeniti | Upravljati verzijama, automatskim testovima, otkrivanjem kvarova i postupcima zamjenske obrade |
- Osjetljive informacije ograničite na opseg potreban za svrhu poziva.
- Za radnje plaćanja, rezervacije, slanja i brisanja uvedite korak korisničkog odobrenja.
- Kontinuirano bilježite vrijeme odziva alata, stopu grešaka i troškove poziva.
- U rezultatima prikažite izvor vanjskih podataka i vrijeme dohvata.
- Ako dođe do kvara alata, primijenite kriterije za broj ponovnih pokušaja i alternativnu obradu.
Clevijev smjer za primjenu u stvarnom poslovanju
Iskoristivost AI-ja u poslovanju zavisi od performansi modela, alata koji se mogu povezati, tačnosti izvršavanja i nivoa sigurnosnih kontrola. Povezivanjem više alata s jednim zahtjevom možete obrađivati sve, od pretraživanja informacija do organizovanja rezultata i naknadnih zadataka, na istom ekranu. Usklađivanjem ovlaštenja i procedura odobravanja sa svakim poslovnim procesom možete smanjiti ponavljajuće zadatke uz očuvanje sigurnosnih politika organizacije.
- Pozivanje alata
- Pozivanje funkcija
- Generativni AI
- AI agent
- Automatizacija poslovanja
- Integracija API-ja