Tänase ilma, KTX-i sõiduplaani, valuutakursside ja ettevõttesiseste materjalide eraldi vaatamiseks tuleb liikuda mitme rakenduse ja süsteemi vahel. AI-l, mis kasutab ainult selle hetkeni õpitud teavet, on keeruline pidevalt muutuvaid olukordi kajastada.
Tool Calling võimaldab AI-l valida kasutaja päringule sobivad välised tööriistad ning hankida uusimat teavet ja täita tööülesandeid. Selles artiklis selgitame Tool Callingu tööpõhimõtet, kasutusvaldkondi ja asjaolusid, mida tuleb kavandamisel kontrollida.
Mis on Tool Calling
Tool Calling on tehnoloogia, mis ühendab suured keelemudelid väliste funktsioonide, API-de, andmebaaside ja tööhaldussüsteemidega, et neid kutsuda. AI analüüsib kasutaja päringut, määrab vajalikud tööriistad ja sisendväärtused ning kasutab tööriistade tagastatud tulemusi vastuse andmiseks või järgmise ülesande täitmiseks.
| Eristus | Õppimisandmetel põhinev töötlemine | Tool Callingul põhinev töötlemine |
|---|---|---|
| Teabe aeg | Mudeli õppimise hetkeni saadaval oleva teabe kasutamine | Väliste andmete kasutamine kutsumise hetkel |
| Arvutamine | Tulemuse loomine konteksti põhjal | Tulemuse kontrollimine kalkulaatori või arvutusfunktsiooni kutsumisega |
| Ettevõttesisesed materjalid | Ainult õppimisprotsessi kaasatud teabe kasutamine | Juurdepääsuõigusega andmebaaside ja dokumendisüsteemide päringud |
| Tööülesannete täitmine | Vastusteksti loomine | Broneeringute tegemine, registreerimine, saatmine, aruannete loomine ja muud toimingud |
Päringu töötlemise protsess
Mida saab Tool Callinguga teha
Tööriistade kutsumine ühendab teabe päringu ja tööülesannete täitmise üheks vestlusvoo osaks. Kasutajad saavad edastada tingimused loomulikus keeles, teadmata iga teenuse otsingumeetodeid või menüüde asukohti. Ettevõtted saavad seadistada kutsutavad tööriistad vastavalt kasutajaõigustele ja tööreeglitele.
| Kasutusvaldkond | Ühendatavad sihtkohad | Töötlemise näide |
|---|---|---|
| Reaalajas teave | Ilma-, liiklus-, valuutakursi- ja aktsiahindade API-d | Hetkeandmete päring ja võrdlemine tingimuste alusel |
| Täpsed arvutused | Kalkulaatorid, statistikafunktsioonid, tasude arvutamise API-d | Maksude, vahemaade, kulude ja statistiliste väärtuste arvutamine |
| Ettevõttesisene teave | Dokumendihoidlad, andmebaasid, otsingusüsteemid | Eeskirjade, lepingute ja tulemusandmete otsimine lubatud õiguste piires |
| Ajakava haldus | Kalendrid, broneerimissüsteemid | Sobiva aja kontrollimine ja sündmuste lisamine kalendrisse |
| Kommunikatsioon | E-post, sõnumirakendused, teavitussüsteemid | Sõnumite koostamine ja saatmine pärast kasutaja heakskiitu |
| Töö automatiseerimine | Aruandlus-, kliendihaldus- ja ettevõtte ressursiplaneerimise süsteemid | Andmete kogumine, vormide täitmine ja oleku muutmine |
Kavandamisel kontrollitavad asjaolud
Väliste süsteemide ühendamisel suureneb ka andmetele juurdepääsu ulatus ja täitmisõigus. Teenuse haldaja peab konkreetselt määratlema valideerimistoimingud enne ja pärast kutset, vigade käsitlemise viisi ning kulupiirangud. Kasutajad peavad saama kontrollida, milline teave millisesse süsteemi edastatakse.
| Kontrollitav valdkond | Võimalik probleem | Kavandamisviis |
|---|---|---|
| Isikuandmete kaitse | Kutseprotsessi käigus võidakse isikuandmed edastada välisesse süsteemi | Edastada ainult vajalikud andmed ning hallata krüptimist, säilitamisperioodi ja kolmandatele isikutele edastamise tingimusi |
| Juurdepääsuõigused | Juurdepääs võidakse saada andmetele või funktsioonidele, mille kasutamiseks õigused puuduvad | Rakendada kasutaja autentimist ja rollipõhiseid õigusi ning kontrollida õigusi enne kutset uuesti |
| Andmete täpsus | API võib tagastada aegunud või valed väärtused | Näidata andmete aega ja allikat ning rakendada kehtivuskontrolli ja ristkontrolli |
| Täitmise vastutus | Broneerimise, maksmise või saatmise käigus võidakse tahtmatult kinnitada toiming | Raskesti tühistatavate toimingute puhul rakendada kasutaja kinnitust ja heakskiidu etappe |
| Kulude haldus | Korduvad kutsed ja mahukad päringud võivad suurendada tegevuskulusid | Seadistada kutsete arvu piirangud, tulemuste salvestamine ja korduvate päringute vältimise reeglid |
| Hooldus | Välised API-d ja sisendvormingud võivad muutuda | Kasutada versioonihaldust, automaatteste ja tõrgete tuvastamist ning rakendada alternatiivseid töötlusprotseduure |
- Piirake tundliku teabe ulatus ülesande täitmiseks vajalikuga.
- Kasutaja kinnitamise etapp peab eelnema maksete, broneeringute, saatmise ja kustutamise toimingutele.
- Jälgige pidevalt tööriistade reageerimisaega, veamäära ja kasutuskulusid.
- Märkige tulemustes väliste andmete allikas ja päringu aeg.
- Tööriista tõrke korral rakendage korduskatsete arvu ja alternatiivse töötlemise kriteeriume.
CLEVI lähenemine töö rakendustele
AI kasutamise tõhusus töös sõltub mudeli jõudlusest, ühendatavatest tööriistadest, täitmise täpsusest ja turvakontrolli tasemest. Mitme tööriista ühendamine ühe päringuga võimaldab töödelda samal ekraanil kõike alates teabe otsimisest kuni tulemuste korrastamise ja järeltoiminguteni. Tööülesandepõhiste õiguste ja kinnitamisprotseduuride rakendamine aitab vähendada korduvaid toiminguid, säilitades samal ajal organisatsiooni turvapoliitika.
- Tool Calling
- Function Calling
- Generatiivne AI
- AI-agendid
- Töö automatiseerimine
- API-integratsioon