Upang suriin ang lagay ng panahon ngayon, iskedyul ng KTX, halaga ng palitan, at mga panloob na materyales ng kumpanya, kailangang magpalipat-lipat sa maraming app at system. Mahirap para sa AI na gumagamit lamang ng impormasyong available hanggang sa matapos ang pagsasanay nito na maipakita ang mga patuloy na nagbabagong sitwasyon.
Sinusuportahan ng Tool Calling ang AI sa pagpili ng mga panlabas na tool na angkop sa kahilingan ng user, pati sa pagsuri ng pinakabagong impormasyon at pagsasagawa ng mga gawain. Ipinapaliwanag ng artikulong ito kung paano gumagana ang Tool Calling, kung saan ito maaaring gamitin, at kung ano ang dapat suriin sa disenyo nito.
Ano ang Tool Calling
Ang Tool Calling ay teknolohiyang nag-uugnay sa malalaking language model upang matawag ang mga panlabas na function, API, database, at system ng negosyo. Sinusuri ng AI ang kahilingan ng user, tinutukoy ang kinakailangang tool at mga input value, at pagkatapos ay ginagamit ang resultang ibinalik ng tool upang bumuo ng sagot o isagawa ang susunod na gawain.
| Kategorya | Pagproseso batay sa training data | Pagproseso batay sa Tool Calling |
|---|---|---|
| Panahon ng impormasyon | Paggamit ng impormasyong available hanggang sa panahon ng pagsasanay ng modelo | Paggamit ng panlabas na data sa oras ng pagtawag |
| Pagkalkula | Pagbuo ng resulta batay sa konteksto | Pagsuri ng resulta sa pamamagitan ng pagtawag sa calculator o computation function |
| Mga panloob na materyales ng kumpanya | Paggamit lamang ng impormasyong kasama sa proseso ng pagsasanay | Pagsuri sa mga database at document system na pinahihintulutan ng mga access permission |
| Pagsasagawa ng gawain | Pagbuo ng mga pangungusap bilang sagot | Pagsasagawa ng mga gawain tulad ng pag-book, pagpaparehistro, pagpapadala, at pagbuo ng ulat |
Proseso ng pagproseso ng kahilingan
Mga bagay na maaaring gawin gamit ang Tool Calling
Ikinokonekta ng Tool Calling ang pagkuha ng impormasyon at pagsasagawa ng mga gawain sa iisang daloy ng pag-uusap. Maaaring magbigay ang mga user ng mga kondisyon sa natural na wika nang hindi kailangang malaman ang paraan ng paghahanap o lokasyon ng menu ng bawat serbisyo. Maaaring i-configure ng mga enterprise ang mga tool na maaaring tawagin sa magkakaibang paraan ayon sa mga pahintulot ng user at mga panuntunan sa trabaho.
| Lugar ng paggamit | Mga konektadong target | Mga halimbawa ng pagproseso |
|---|---|---|
| Real-time na impormasyon | Mga API ng lagay ng panahon, trapiko, palitan ng pera, at presyo ng stock | Pagkuha ng impormasyon sa kasalukuyang oras at paghahambing ayon sa mga kondisyon |
| Tumpak na kalkulasyon | Calculator, mga statistical function, at mga API ng pagkalkula ng bayarin | Pagkalkula ng buwis, distansya, gastos, at mga halagang estadistikal |
| Impormasyon ng kumpanya | Repositoryo ng mga dokumento, database, at sistema ng paghahanap | Paghahanap ng mga regulasyon, kontrata, at materyales tungkol sa performance sa loob ng saklaw ng pahintulot |
| Pamamahala ng iskedyul | Kalendaryo at sistema ng reservation | Pagsusuri ng mga available na oras at pagrerehistro ng iskedyul |
| Komunikasyon | Email, messenger, at sistema ng notification | Pagsulat at pagpapadala ng mensahe pagkatapos ng pag-apruba ng user |
| Pag-automate ng trabaho | Sistema ng mga ulat, pamamahala ng customer, at enterprise resource planning | Pagkalap ng materyales, pagsagot sa mga form, at pagbabago ng status |
Mga dapat kumpirmahin sa pagdidisenyo
Kapag dumarami ang mga koneksyon sa mga panlabas na sistema, lumalawak din ang saklaw ng access sa data at mga pahintulot sa pagsasagawa. Kailangang partikular na tukuyin ng mga operator ng serbisyo ang mga proseso ng validation bago at pagkatapos ng pagtawag, paraan ng pagtugon sa mga error, at limitasyon sa gastos. Dapat makita ng mga user kung anong impormasyon ang ipinapadala sa aling sistema.
| Item na ibe-verify | Mga posibleng problemang mangyari | Paraan ng pagdidisenyo |
|---|---|---|
| Proteksiyon sa personal na impormasyon | Maaaring maipadala ang personal na impormasyon sa panlabas na sistema habang isinasagawa ang pagtawag | Ipadala lamang ang kinakailangang data at pamahalaan ang pag-encrypt, panahon ng pag-iimbak, at mga kondisyon ng pagbibigay sa mga third party |
| Mga pahintulot sa access | Maaaring ma-access ang mga materyales o function na walang pahintulot ang user na gamitin | Ilapat ang authentication ng user at mga pahintulot ayon sa papel, at muling kumpirmahin ang pahintulot bago tumawag |
| Katumpakan ng data | Maaaring magbalik ang API ng luma o maling halaga | Ipakita ang oras at pinagmulan ng data at ilapat ang validation at cross-validation |
| Pananagutan sa pagsasagawa | Maaaring makumpirma ang hindi sinasadyang operasyon sa proseso ng reservation, pagbabayad, o pagpapadala | Ilapat ang kumpirmasyon ng user at mga hakbang ng pag-apruba sa mga operasyong mahirap kanselahin |
| Pamamahala ng gastos | Maaaring tumaas ang gastos sa pagpapatakbo dahil sa paulit-ulit na pagtawag at maramihang request | Magtakda ng mga limitasyon sa bilang ng pagtawag, pag-iimbak ng resulta, at mga panuntunan upang maiwasan ang mga duplicate na request |
| Pagpapanatili | Maaaring magbago ang mga panlabas na API at format ng input | Magpatakbo ng version management, automated testing, pagtukoy ng mga aberya, at mga alternatibong pamamaraan ng pagproseso |
- Nililimitahan ang sensitibong impormasyon sa saklaw na kinakailangan para sa layunin ng tawag.
- Nagtatakda ng hakbang para sa pag-apruba ng user para sa mga operasyon ng pagbabayad, pagpapareserba, pagpapadala, at pagtanggal.
- Patuloy na itinatala ang oras ng pagtugon ng tool, rate ng error, at gastos sa pagtawag.
- Ipinapakita sa mga resulta ang pinagmulan at oras ng pagkuha ng external na data.
- Kapag nagkaroon ng aberya sa tool, inilalapat ang pamantayan para sa bilang ng muling pagsubok at alternatibong pagproseso.
Direksyon ng CLEVI para sa aktuwal na aplikasyon sa trabaho
Nakadepende ang paggamit ng AI sa trabaho sa performance ng modelo, mga tool na maaaring ikonekta, katumpakan ng execution, at antas ng mga kontrol sa seguridad. Kapag nagkonekta ng maraming tool sa isang kahilingan, maaaring isagawa sa iisang screen ang lahat mula sa paghahanap ng impormasyon hanggang sa pag-aayos ng mga resulta at pagsasagawa ng mga kasunod na gawain. Sa pamamagitan ng pagsasaalang-alang sa mga pahintulot at proseso ng pag-apruba ayon sa trabaho, maaaring mabawasan ang mga paulit-ulit na gawain habang pinananatili ang mga patakaran sa seguridad ng organisasyon.
- Tool Calling
- Function Calling
- Generative AI
- AI agent
- Automation ng trabaho
- API integration