Каб асобна праверыць сённяшняе надвор'е, расклад KTX, абменны курс і ўнутраныя матэрыялы кампаніі, даводзіцца пераключацца паміж некалькімі праграмамі і сістэмамі. ШІ, які выкарыстоўвае толькі інфармацыю, актуальную на момант завяршэння навучання, складана адлюстроўваць сітуацыі, што пастаянна змяняюцца.
Tool Calling дапамагае ШІ выбіраць знешнія інструменты ў адпаведнасці з запытам карыстальніка, атрымліваць актуальную інфармацыю і выконваць працоўныя задачы. У гэтым артыкуле тлумачацца прынцып працы Tool Calling, сферы выкарыстання і аспекты, якія варта ўлічваць пры праектаванні.
Што такое Tool Calling
Tool Calling — гэта тэхналогія, якая злучае вялікую моўную мадэль знешнімі функцыямі, API, базамі даных і працоўнымі сістэмамі, каб яна магла іх выклікаць. ШІ аналізуе запыт карыстальніка, вызначае неабходныя інструменты і ўваходныя значэнні, а затым выкарыстоўвае вынікі, вернутыя інструментамі, каб сфарміраваць адказ або выканаць наступную задачу.
| Катэгорыя | Апрацоўка на аснове даных навучання | Апрацоўка на аснове Tool Calling |
|---|---|---|
| Часавая актуальнасць інфармацыі | Выкарыстанне інфармацыі да моманту навучання мадэлі | Выкарыстанне знешніх даных на момант выкліку |
| Вылічэнні | Генерацыя выніку на аснове кантэксту | Праверка выніку праз выклік калькулятара або функцыі вылічэнняў |
| Унутраныя матэрыялы кампаніі | Выкарыстанне толькі інфармацыі, уключанай у працэс навучання | Запыт да баз даных і сістэм дакументаў, доступ да якіх дазволены |
| Выкананне задач | Генерацыя тэксту адказу | Выкананне такіх задач, як браніраванне, рэгістрацыя, адпраўка і стварэнне справаздач |
Працэс апрацоўкі запыту
Што можна рабіць з дапамогай Tool Calling
Выкліканне інструментаў злучае атрыманне інфармацыі і выкананне задач у адным дыялогавым працэсе. Карыстальнікі могуць перадаваць умовы на натуральнай мове, не ведаючы спосабаў пошуку або размяшчэння меню кожнага сэрвісу. Кампаніі могуць па-рознаму наладжваць інструменты, даступныя для выкліку, з улікам правоў карыстальнікаў і працоўных правілаў.
| Вобласці прымянення | Падключаныя сістэмы | Прыклады апрацоўкі |
|---|---|---|
| Інфармацыя ў рэальным часе | API надвор'я, транспарту, абменных курсаў і каціровак акцый | Атрыманне актуальнай інфармацыі і параўнанне паводле ўмоў |
| Дакладныя вылічэнні | Калькулятары, статыстычныя функцыі, API для разліку тарыфаў | Разлік падаткаў, адлегласці, выдаткаў і статыстычных значэнняў |
| Унутраная інфармацыя | Сховішчы дакументаў, базы даных, пошукавыя сістэмы | Пошук нарматыўных дакументаў, кантрактаў і матэрыялаў аб выніках працы ў межах дазволеных правоў |
| Кіраванне раскладам | Каляндары, сістэмы браніравання | Праверка даступнага часу і стварэнне запісаў у раскладзе |
| Камунікацыя | Электронная пошта, месенджары, сістэмы апавяшчэнняў | Стварэнне і адпраўка паведамленняў пасля адабрэння карыстальнікам |
| Аўтаматызацыя працоўных задач | Сістэмы справаздачнасці, кіравання ўзаемаадносінамі з кліентамі і планавання рэсурсаў прадпрыемства | Збор даных, запаўненне формаў і змяненне стану |
Пытанні, якія трэба праверыць пры праектаванні
Пры павелічэнні колькасці падключэнняў да знешніх сістэм пашыраюцца і межы доступу да даных, а таксама паўнамоцтвы на выкананне дзеянняў. Аператары сэрвісаў павінны канкрэтна вызначыць працэдуры праверкі да і пасля выкліку, спосабы рэагавання на памылкі і ліміты выдаткаў. Карыстальнікі павінны мець магчымасць праверыць, якая інфармацыя і ў якую сістэму перадаецца.
| Пункт праверкі | Магчымая праблема | Спосаб праектавання |
|---|---|---|
| Абарона персанальных даных | У працэсе выкліку персанальныя даныя могуць перадавацца ў знешнюю сістэму | Перадаваць толькі неабходныя даныя і кіраваць шыфраваннем, тэрмінам захоўвання і ўмовамі перадачы трэцім асобам |
| Правы доступу | Можа адбыцца доступ да даных або функцый, на выкарыстанне якіх няма дазволу | Ужываць аўтэнтыфікацыю карыстальнікаў і правы доступу паводле роляў, а перад выклікам паўторна правяраць паўнамоцтвы |
| Дакладнасць даных | API можа вярнуць састарэлыя або няправільныя значэнні | Паказваць час і крыніцу даных, а таксама ўжываць праверку сапраўднасці і перакрыжаваную праверку |
| Адказнасць за выкананне | Падчас браніравання, аплаты або адпраўкі можа быць пацверджана непрадбачанае дзеянне | Для дзеянняў, якія цяжка адмяніць, уводзіць пацвярджэнне карыстальніка і этап адабрэння |
| Кіраванне выдаткамі | Паўторныя выклікі і масавыя запыты могуць павялічыць эксплуатацыйныя выдаткі | Усталёўваць абмежаванні на колькасць выклікаў, захоўванне вынікаў і правілы прадухілення дубляваных запытаў |
| Тэхнічнае абслугоўванне | Знешні API і фарматы ўводу могуць змяніцца | Ужываць кіраванне версіямі, аўтаматычнае тэставанне, выяўленне збояў і працэдуры рэзервовай апрацоўкі |
- Абмяжоўвайце апрацоўку канфідэнцыйнай інфармацыі межамі, неабходнымі для мэты выкліку.
- Для аперацый аплаты, браніравання, адпраўкі і выдалення прадугледжвайце этап пацвярджэння карыстальнікам.
- Пастаянна фіксуйце час адказу інструментаў, узровень памылак і кошт выклікаў.
- Паказвайце ў выніку крыніцу знешніх даных і час іх атрымання.
- У выпадку збою інструментаў ужывайце крытэрыі колькасці паўторных спроб і альтэрнатыўнай апрацоўкі.
Напрамкі практычнага прымянення Clevi ў працы
Карыснасць AI у працы залежыць ад прадукцыйнасці мадэлі, даступных для падключэння інструментаў, дакладнасці выканання і ўзроўню кантролю бяспекі. Калі да аднаго запыту падключыць некалькі інструментаў, можна на адным экране выконваць усё: ад пошуку інфармацыі да ўпарадкавання вынікаў і наступных дзеянняў. Улічваючы правы доступу і працэдуры пацвярджэння для кожнага працоўнага працэсу, можна скараціць колькасць паўторных задач, захоўваючы палітыку бяспекі арганізацыі.
- Выклік інструмента
- Выклік функцыі
- Генератыўны AI
- AI-агент
- Аўтаматызацыя працоўных працэсаў
- Інтэграцыя з API