Tänase ilma, KTX-i sõiduplaani, valuutakursside ja ettevõttesiseste materjalide eraldi kontrollimiseks tuleb liikuda mitme rakenduse ja süsteemi vahel. AI-l, mis kasutab ainult selle hetke teavet, mil õpe lõppes, on raske pidevalt muutuvate olukordadega arvestada.
Tool Calling võimaldab AI-l valida kasutaja päringule sobivad välised tööriistad ning hankida värskeimat teavet ja teha tööülesandeid. Selles artiklis selgitame Tool Callingu toimimist, kasutusvaldkondi ja asjaolusid, mida tuleb kavandamisel kontrollida.
Mis on Tool Calling
Tool Calling on tehnoloogia, mis ühendab suure keelemudeli väliste funktsioonide, API-de, andmebaaside ja ärisüsteemidega, et neid kutsuda. AI analüüsib kasutaja päringut, määrab vajalikud tööriistad ja sisendväärtused ning kasutab tööriistade tagastatud tulemusi vastuse koostamiseks või järgmise ülesande täitmiseks.
| Jaotus | Õppeandmetel põhinev töötlemine | Tool Callingul põhinev töötlemine |
|---|---|---|
| Teabe ajapunkt | Mudeli õppimise hetkeni kogunenud teabe kasutamine | Väliste andmete kasutamine kutsumise hetkel |
| Arvutamine | Tulemuse loomine konteksti põhjal | Tulemuse kontrollimine kalkulaatori või arvutusfunktsiooni kutsumise abil |
| Ettevõttesisesed materjalid | Ainult õppeprotsessi kaasatud teabe kasutamine | Juurdepääsuõigusega andmebaaside ja dokumendisüsteemide päringud |
| Tööülesannete täitmine | Vastuseteksti loomine | Broneeringute, registreerimiste ja saatmiste tegemine ning aruannete loomine |
Päringu töötlemise protsess
Mida saab Tool Callinguga teha
Tööriistakutsed ühendavad teabe pärimise ja tööülesannete täitmise üheks vestlusvooguks. Kasutajad saavad tingimusi edastada loomulikus keeles, ilma et nad peaksid teadma iga teenuse otsingumeetodit või menüü asukohta. Ettevõtted saavad konfigureerida kutsutavaid tööriistu vastavalt kasutajaõigustele ja tööreeglitele.
| Kasutusvaldkond | Ühendatavad sihtkohad | Töötlemise näited |
|---|---|---|
| Reaalajas teave | Ilma-, liiklus-, valuutakursi- ja aktsiahindade API-d | Praeguse aja teabe pärimine ja võrdlemine tingimuste alusel |
| Täpsed arvutused | Kalkulaatorid, statistikafunktsioonid, tasuarvutuse API-d | Maksude, vahemaa, kulude ja statistiliste väärtuste arvutamine |
| Ettevõttesisene teave | Dokumendihoidlad, andmebaasid, otsingusüsteemid | Eeskirjade, lepingute ja tulemusandmete otsimine volituste piires |
| Kalendrihaldus | Kalendrid, broneerimissüsteemid | Saadaolevate aegade kontrollimine ja sündmuste lisamine kalendrisse |
| Kommunikatsioon | E-post, sõnumivahetus- ja teavitussüsteemid | Sõnumite koostamine ja saatmine pärast kasutaja heakskiitu |
| Tööülesannete automatiseerimine | Aruannete, kliendihalduse ja ettevõtte ressursside planeerimise süsteemid | Andmete kogumine, vormide täitmine ja oleku muutmine |
Aspektid, mida tuleb kavandamisel kontrollida
Välissüsteemide ühenduste arvu suurenedes laienevad ka andmetele juurdepääsu ulatus ja täitmisõigused. Teenuse operaator peab konkreetselt määratlema kontrollitoimingud enne ja pärast kutset, vigade käsitlemise viisi ning kulupiirangud. Kasutajad peavad saama kontrollida, milline teave millisesse süsteemi edastatakse.
| Kontrollitav punkt | Võimalik probleem | Kavandamismeetod |
|---|---|---|
| Isikuandmete kaitse | Isikuandmed võidakse kutse käigus välissüsteemi edastada | Edastada ainult vajalikud andmed ning hallata krüpteerimist, säilitusaega ja kolmandatele isikutele edastamise tingimusi |
| Juurdepääsuõigused | Võidakse pääseda ligi andmetele või funktsioonidele, mille kasutusõigust pole | Rakendada kasutaja autentimist ja rollipõhiseid õigusi ning kontrollida õigused enne kutset uuesti üle |
| Andmete täpsus | API võib tagastada aegunud või ebaõigeid väärtusi | Kuvada andmete ajakohasus ja allikas ning rakendada kehtivuskontrolli ja ristkontrolli |
| Täitmise vastutus | Broneerimise, maksmise või saatmise käigus võidakse tahtmatult toiming kinnitada | Rakendada raskesti tühistatavate toimingute puhul kasutaja kinnituse ja heakskiidu etapid |
| Kulude haldamine | Korduvad kutsed ja hulgi päringud võivad tegevuskulusid suurendada | Seadistada kutsete arvu piirangud, tulemuste salvestamine ja topeltpäringute vältimise reeglid |
| Hooldus | Välised API-d ja sisendvormingud võivad muutuda | Rakendada versioonihaldust, automaatteste, tõrgete tuvastamist ja alternatiivseid töötlemisprotseduure |
- Piirake tundliku teabe kasutamise ulatusega, mis on vajalik päringu eesmärgi täitmiseks.
- Lisage maksete, broneeringute, saatmise ja kustutamise toimingutele kasutaja kinnituse etapp.
- Jälgige pidevalt tööriistade vastamisaega, veamäära ja päringute maksumust.
- Kuvage tulemustes välisandmete allikas ja päringu tegemise aeg.
- Tööriista tõrke korral rakendage uuesti proovimise kordade arvu ja alternatiivse töötlemise kriteeriume.
CLEVI suund tegelikus töökasutuses
AI kasutamise tõhusus töös sõltub mudeli jõudlusest, ühendatavatest tööriistadest, toimingute täpsusest ja turvakontrolli tasemest. Mitme tööriista ühendamisel ühe päringuga saab samal ekraanil tegeleda kõigega alates teabe otsimisest kuni tulemuste korrastamise ja järeltoiminguteni. Tööülesannete kohaste õiguste ja kinnitamisprotseduuride rakendamine aitab vähendada korduvat tööd, säilitades samal ajal organisatsiooni turvapoliitika.
- Tool Calling
- Function Calling
- Generatiivne AI
- AI-agent
- Töö automatiseerimine
- API-integratsioon