Norint atskirai patikrinti šiandienos orus, KTX tvarkaraštį, valiutų kursus ir įmonės vidinę medžiagą, reikia nuolat pereiti iš vienos programėlės ar sistemos į kitą. DI, naudojantis tik mokymų pabaigos metu turėta informacija, sunkiai atspindi nuolat kintančią situaciją.
Tool Calling padeda DI pasirinkti naudotojo užklausai tinkamus išorinius įrankius, gauti naujausią informaciją ir atlikti užduotis. Šiame straipsnyje paaiškinama, kaip veikia Tool Calling, kur jis gali būti taikomas ir į ką atsižvelgti jį projektuojant.
Kas yra Tool Calling
Tool Calling – tai technologija, sujungianti didžiuosius kalbos modelius su išorinėmis funkcijomis, API, duomenų bazėmis ir verslo sistemomis, kad jie galėtų jas iškviesti. DI išanalizuoja naudotojo užklausą, nustato reikiamus įrankius ir įvesties reikšmes, o tada, naudodamas įrankių grąžintus rezultatus, pateikia atsakymą arba atlieka kitą užduotį.
| Kategorija | Apdorojimas pagal mokymosi duomenis | Apdorojimas naudojant Tool Calling |
|---|---|---|
| Informacijos laikas | Naudojama informacija iki modelio mokymo momento | Naudojami išoriniai duomenys iškvietimo momentu |
| Skaičiavimas | Rezultatas generuojamas remiantis kontekstu | Rezultatas patikrinamas iškviečiant skaičiuotuvą arba skaičiavimo funkciją |
| Įmonės vidinė medžiaga | Naudojama tik mokymosi procese įtraukta informacija | Užklausiamos duomenų bazės ir dokumentų sistemos, kurioms suteiktos prieigos teisės |
| Užduočių vykdymas | Generuojamas atsakymo tekstas | Atliekami tokie veiksmai kaip rezervavimas, registravimas, siuntimas ir ataskaitų kūrimas |
Užklausos apdorojimo procesas
Ką galima atlikti naudojant Tool Calling
Įrankių iškvietimas sujungia informacijos paiešką ir užduočių vykdymą į vieną pokalbio eigą. Naudotojai gali natūralia kalba nurodyti sąlygas, net jei nežino kiekvienos paslaugos paieškos būdo ar meniu vietos. Įmonės gali skirtingai sukonfigūruoti iškviečiamus įrankius pagal naudotojų teises ir veiklos taisykles.
| Pritaikymo sritys | Sujungiamos sistemos | Apdorojimo pavyzdžiai |
|---|---|---|
| Realaus laiko informacija | Orų, eismo, valiutų kursų, akcijų kainų API | Informacijos apie esamą padėtį paieška ir palyginimas pagal sąlygas |
| Tikslūs skaičiavimai | Skaičiuoklės, statistinės funkcijos, mokesčių skaičiavimo API | Mokesčių, atstumo, išlaidų ir statistinių reikšmių skaičiavimas |
| Įmonės informacija | Dokumentų saugyklos, duomenų bazės, paieškos sistemos | Nuostatų, sutarčių ir veiklos rezultatų duomenų paieška pagal suteiktas teises |
| Tvarkaraščio valdymas | Kalendoriai, rezervavimo sistemos | Galimo laiko patikrinimas ir įrašų įtraukimas į tvarkaraštį |
| Komunikacija | El. paštas, susirašinėjimo programos, pranešimų sistemos | Žinučių rengimas ir siuntimas gavus naudotojo patvirtinimą |
| Veiklos automatizavimas | Ataskaitų, ryšių su klientais valdymo ir įmonės išteklių planavimo sistemos | Duomenų rinkimas, formų pildymas ir būsenos keitimas |
Į ką atkreipti dėmesį projektuojant
Didėjant jungčių su išorinėmis sistemomis skaičiui, kartu plečiasi ir duomenų prieigos bei veiksmų vykdymo teisės. Paslaugos operatorius turi konkrečiai apibrėžti tikrinimo procedūras prieš iškvietimą ir po jo, reagavimo į klaidas būdus bei išlaidų ribas. Naudotojai turi galėti patikrinti, kokia informacija ir į kurią sistemą perduodama.
| Tikrinamas aspektas | Galima problema | Projektavimo būdas |
|---|---|---|
| Asmens duomenų apsauga | Iškvietimo metu asmens duomenys gali būti perduoti išorinei sistemai | Perduoti tik būtinus duomenis ir valdyti šifravimą, saugojimo laikotarpį bei duomenų teikimo tretiesiems asmenims sąlygas |
| Prieigos teisės | Gali būti pasiekti duomenys ar funkcijos, kurių naudotojas neturi teisės naudoti | Taikyti naudotojo autentifikavimą ir pagal vaidmenis nustatytas teises, o prieš iškvietimą dar kartą patikrinti teises |
| Duomenų tikslumas | API gali grąžinti pasenusias arba neteisingas reikšmes | Nurodyti duomenų datą ir šaltinį, taikyti galiojimo tikrinimą bei kryžminį patikrinimą |
| Atsakomybė už vykdymą | Rezervavimo, mokėjimo ar siuntimo metu gali būti patvirtintas netyčinis veiksmas | Sunkiai atšaukiamiems veiksmams taikyti naudotojo patvirtinimo ir autorizavimo etapus |
| Išlaidų valdymas | Veiklos sąnaudos gali padidėti dėl pasikartojančių iškvietimų ir didelės apimties užklausų | Nustatyti iškvietimų skaičiaus ribojimus, rezultatų saugojimą ir pasikartojančių užklausų prevencijos taisykles |
| Priežiūra | Gali pasikeisti išorinės API ir įvesties formatas | Taikyti versijų valdymą, automatinius testus ir sutrikimų aptikimą bei vykdyti alternatyvias apdorojimo procedūras |
- Jautrią informaciją apribokite tik ta apimtimi, kurios reikia iškvietimo tikslui.
- Mokėjimo, rezervavimo, siuntimo ir trynimo veiksmams nustatykite naudotojo patvirtinimo etapą.
- Nuolat registruokite įrankio atsako laiką, klaidų rodiklį ir iškvietimo kainą.
- Rezultatuose nurodykite išorinių duomenų šaltinį ir užklausos laiką.
- Įvykus įrankio sutrikimui, taikykite pakartotinių bandymų skaičiaus ir alternatyvaus apdorojimo kriterijus.
CLEVI kryptis taikant praktiniame darbe
DI panaudojimas darbe priklauso nuo modelio našumo, prijungiamų įrankių, vykdymo tikslumo ir saugumo kontrolės lygio. Prijungus kelis įrankius prie vienos užklausos, viename lange galima atlikti viską – nuo informacijos paieškos iki rezultatų sutvarkymo ir tolesnių veiksmų. Atsižvelgus į konkrečiam darbui taikomas teises ir patvirtinimo procedūras, galima sumažinti pasikartojančias užduotis ir kartu išlaikyti organizacijos saugumo politiką.
- Tool Calling
- Function Calling
- Generatyvinis DI
- DI agentas
- Darbo automatizavimas
- API integracija