Lai atsevišķi pārbaudītu šodienas laikapstākļus, KTX kustības sarakstu, valūtas kursu un uzņēmuma iekšējos materiālus, ir jāpārslēdzas starp vairākām lietotnēm un sistēmām. AI, kas izmanto tikai informāciju, kas pieejama mācīšanās pabeigšanas brīdī, nespēj pienācīgi atspoguļot pastāvīgi mainīgas situācijas.
Tool Calling ļauj AI izvēlēties lietotāja pieprasījumam atbilstošus ārējos rīkus, iegūt jaunāko informāciju un izpildīt darba uzdevumus. Šajā rakstā ir izskaidrots, kā darbojas Tool Calling, kādās jomās to var izmantot un kas jāņem vērā, to izstrādājot.
Kas ir Tool Calling
Tool Calling ir tehnoloģija, kas savieno lielos valodas modeļus ar ārējām funkcijām, API, datubāzēm un darba sistēmām, lai tie varētu tās izsaukt. AI analizē lietotāja pieprasījumu, nosaka nepieciešamos rīkus un ievades vērtības, pēc tam izmanto rīku atgrieztos rezultātus, lai sniegtu atbildi vai veiktu nākamo darbību.
| Kategorija | Apstrāde, balstoties uz mācību datiem | Apstrāde, balstoties uz Tool Calling |
|---|---|---|
| Informācijas laiks | Izmanto informāciju līdz modeļa apmācības brīdim | Izmanto ārējos datus izsaukuma brīdī |
| Aprēķini | Ģenerē rezultātu, balstoties uz kontekstu | Izsauc kalkulatoru vai aprēķinu funkciju, lai pārbaudītu rezultātu |
| Uzņēmuma iekšējie materiāli | Izmanto tikai mācību procesā iekļauto informāciju | Pārbauda datubāzes un dokumentu sistēmas, kurām ir piešķirtas piekļuves tiesības |
| Darbu izpilde | Ģenerē atbildes tekstu | Veic tādus uzdevumus kā rezervēšana, reģistrēšana, nosūtīšana un pārskatu izveide |
Pieprasījuma apstrādes process
Ko iespējams paveikt ar Tool Calling
Tool Calling savieno informācijas iegūšanu un uzdevumu izpildi vienā sarunas plūsmā. Lietotāji var dabiskā valodā norādīt nosacījumus, nezinot katra pakalpojuma meklēšanas veidu vai izvēlnes atrašanās vietu. Uzņēmumi var atšķirīgi konfigurēt izsaucamos rīkus atbilstoši lietotāju piekļuves tiesībām un darba noteikumiem.
| Izmantošanas joma | Savienojamie resursi | Apstrādes piemēri |
|---|---|---|
| Reāllaika informācija | Laikapstākļu, satiksmes, valūtas kursu un akciju cenu API | Pašreizējās informācijas iegūšana un salīdzināšana atbilstoši nosacījumiem |
| Precīzi aprēķini | Kalkulatori, statistikas funkcijas, tarifu aprēķina API | Nodokļu, attāluma, izmaksu un statistisko vērtību aprēķināšana |
| Iekšējā informācija | Dokumentu krātuves, datubāzes, meklēšanas sistēmas | Noteikumu, līgumu un darbības rezultātu materiālu meklēšana lietotājam piešķirto tiesību ietvaros |
| Kalendāra pārvaldība | Kalendāri, rezervēšanas sistēmas | Pieejamā laika pārbaude un pasākumu reģistrēšana |
| Saziņa | E-pasts, ziņapmaiņas un paziņojumu sistēmas | Ziņojumu sagatavošana un nosūtīšana pēc lietotāja apstiprinājuma |
| Darba automatizācija | Pārskatu, klientu pārvaldības un uzņēmuma resursu plānošanas sistēmas | Datu apkopošana, veidlapu aizpildīšana un statusa maiņa |
Lietas, kas jāpārbauda projektēšanas laikā
Palielinoties savienojumu skaitam ar ārējām sistēmām, palielinās arī datu piekļuves tvērums un izpildes tiesības. Pakalpojuma operatoram ir konkrēti jānosaka pārbaudes procedūras pirms un pēc izsaukuma, kļūdu novēršanas veids un izmaksu ierobežojumi. Lietotājiem jābūt iespējai pārbaudīt, kāda informācija un uz kuru sistēmu tiek nosūtīta.
| Pārbaudāmais elements | Iespējamā problēma | Projektēšanas metode |
|---|---|---|
| Personas datu aizsardzība | Izsaukuma laikā personas dati var tikt nosūtīti ārējai sistēmai | Nosūtīt tikai nepieciešamos datus un pārvaldīt šifrēšanu, glabāšanas periodu un nosacījumus datu nodošanai trešajām personām |
| Piekļuves tiesības | Var tikt piekļūts materiāliem vai funkcijām, kuru lietošanai nav piešķirtas tiesības | Piemērot lietotāja autentifikāciju un lomu piekļuves tiesības, kā arī atkārtoti pārbaudīt tiesības pirms izsaukuma |
| Datu precizitāte | API var atgriezt novecojušas vai nepareizas vērtības | Norādīt datu laiku un avotu, kā arī piemērot derīguma pārbaudi un savstarpēju validāciju |
| Atbildība par izpildi | Rezervēšanas, maksājuma vai nosūtīšanas procesā var tikt apstiprināta neparedzēta darbība | Darbībām, kuras ir grūti atcelt, piemērot lietotāja pārbaudes un apstiprināšanas posmus |
| Izmaksu pārvaldība | Atkārtoti izsaukumi un liela apjoma pieprasījumi var palielināt darbības izmaksas | Iestatīt izsaukumu skaita ierobežojumus, rezultātu glabāšanu un noteikumus dublētu pieprasījumu novēršanai |
| Uzturēšana | Ārējie API un ievades formāti var mainīties | Nodrošināt versiju pārvaldību, automātiskos testus, kļūmju noteikšanu un alternatīvas apstrādes procedūras |
- Sensitīva informācija tiek ierobežota līdz apjomam, kas nepieciešams izsaukuma mērķa sasniegšanai.
- Maksājumiem, rezervācijām, nosūtīšanai un dzēšanas darbībām tiek ieviests lietotāja apstiprināšanas posms.
- Rīku atbildes laiks, kļūmju līmenis un izsaukumu izmaksas tiek nepārtraukti reģistrētas.
- Rezultātā tiek norādīts ārējo datu avots un izgūšanas laiks.
- Rīka darbības traucējumu gadījumā tiek piemērots atkārtotu mēģinājumu skaita un alternatīvas apstrādes kritērijs.
CLEVI pieeja praktiskai ieviešanai darbā
AI izmantošanas efektivitāte darbā ir atkarīga no modeļa veiktspējas, pievienojamo rīku klāsta, izpildes precizitātes un drošības kontroles līmeņa. Pievienojot vienam pieprasījumam vairākus rīkus, vienā ekrānā var veikt visu — no informācijas meklēšanas līdz rezultātu apkopošanai un turpmākajām darbībām. Iekļaujot katram darba procesam atbilstošas piekļuves tiesības un apstiprināšanas procedūras, var samazināt atkārtotu darbu, vienlaikus saglabājot organizācijas drošības politiku.
- Tool Calling
- Function Calling
- Ģeneratīvais AI
- AI aģents
- Darba procesu automatizācija
- API integrācija