За да ги проверите денешното време, распоредот на KTX, девизниот курс и интерните материјали, треба да се префрлате помеѓу повеќе апликации и системи. ВИ што користи само информации достапни до моментот на завршување на обуката тешко може да ги одрази ситуациите што постојано се менуваат.
Tool Calling овозможува ВИ да избере надворешни алатки соодветни на барањето на корисникот, да ги провери најновите информации и да изврши работни задачи. Во овој текст се објаснети начинот на функционирање на Tool Calling, опсегот на примена и работите што треба да се проверат при дизајнирањето.
Што е Tool Calling
Tool Calling е технологија што ги поврзува големите јазични модели со надворешни функции, API-ја, бази на податоци и деловни системи. ВИ го анализира барањето на корисникот, ги одредува потребните алатки и влезни вредности, а потоа ги користи резултатите што ги враќаат алатките за да даде одговор или да ја изврши следната задача.
| Категорија | Обработка врз основа на податоци за обука | Обработка врз основа на Tool Calling |
|---|---|---|
| Период на информациите | Користење информации до моментот на обука на моделот | Користење надворешни податоци во моментот на повикување |
| Пресметки | Генерирање резултати врз основа на контекстот | Повикување калкулатор или функција за пресметување и проверка на резултатот |
| Интерни материјали | Користење само информации вклучени во процесот на обука | Пребарување бази на податоци и системи за документи за кои се дозволени овластувања |
| Извршување задачи | Генерирање реченици како одговор | Извршување задачи како резервации, регистрација, испраќање и генерирање извештаи |
Процес на обработка на барањето
Што е можно со Tool Calling
Tool Calling ги поврзува пребарувањето информации и извршувањето задачи во еден тек на разговор. Корисниците можат да ги пренесат условите на природен јазик без да знаат како се пребарува во секоја услуга или каде се наоѓаат менијата. Компаниите можат различно да ги конфигурираат алатките што може да се повикуваат, во согласност со корисничките овластувања и деловните правила.
| Области на примена | Поврзани системи | Примери за обработка |
|---|---|---|
| Информации во реално време | API-ја за временска прогноза, сообраќај, девизни курсеви и цени на акции | Пребарување информации за тековниот момент и споредба според услови |
| Прецизни пресметки | Калкулатори, статистички функции и API-ја за пресметка на надоместоци | Пресметка на даноци, растојанија, трошоци и статистички вредности |
| Внатрешни информации | Складишта на документи, бази на податоци и системи за пребарување | Пребарување правила, договори и податоци за резултати во рамките на овластувањата |
| Управување со распоред | Календари и системи за резервации | Проверка на достапни термини и внесување настани во распоредот |
| Комуникација | Е-пошта, месинџери и системи за известување | Креирање и испраќање пораки по одобрение од корисникот |
| Автоматизација на работата | Системи за извештаи, управување со клиенти и планирање на ресурсите на претпријатието | Собирање податоци, пополнување обрасци и промена на статусот |
Работи што треба да се проверат при дизајнирањето
Со зголемувањето на бројот на поврзани надворешни системи, се прошируваат и опсегот на пристап до податоците и овластувањата за извршување. Операторите на услугите треба конкретно да ги дефинираат постапките за проверка пред и по повикувањето, начинот на справување со грешки и ограничувањата на трошоците. Корисниците треба да можат да проверат кои информации и кон кој систем се пренесуваат.
| Ставка за проверка | Можно настанат проблем | Начин на дизајнирање |
|---|---|---|
| Заштита на личните податоци | При повикувањето, личните податоци може да бидат пренесени до надворешен систем | Испраќајте ги само потребните податоци и управувајте со шифрирањето, периодот на чување и условите за давање на податоци на трети страни |
| Пристапни овластувања | Можно е да се пристапи до материјали или функции за кои корисникот нема овластување | Применете автентикација на корисникот и овластувања според улогата, а пред повикувањето повторно проверете ги овластувањата |
| Точност на податоците | API може да врати застарени или неточни вредности | Прикажете го моментот и изворот на податоците и применете проверка на валидноста и вкрстена проверка |
| Одговорност за извршувањето | Во процесот на резервација, плаќање или испраќање може да се потврди ненамерна операција | За операции што тешко се откажуваат, применете потврда од корисникот и чекор за одобрување |
| Управување со трошоците | Оперативните трошоци може да се зголемат поради повторени повикувања и голем број барања | Поставете ограничувања на бројот на повикувања, зачувување на резултатите и правила за спречување дуплирани барања |
| Одржување | Надворешните API-ја и форматите на внес може да се променат | Воспоставете управување со верзии, автоматски тестови, откривање дефекти и постапки за алтернативна обработка |
- Чувствителните информации се ограничуваат на опсегот неопходен за целта на повикот.
- За плаќања, резервации, испраќање и бришење се воспоставува чекор за одобрување од корисникот.
- Времето на одговор, стапката на грешки и трошоците за повикување на алатките континуирано се евидентираат.
- Изворот и времето на пребарување на надворешните податоци се прикажуваат во резултатите.
- Во случај на дефект на алатката се применуваат критериуми за бројот на повторни обиди и алтернативно постапување.
Насоката на CLEVI за примена во реалната работа
Применливоста на AI во работата зависи од перформансите на моделот, алатките што може да се поврзат, точноста на извршувањето и нивото на безбедносни контроли. Со поврзување повеќе алатки на едно барање, од пребарување информации до организирање резултати и последователни задачи може да се обработи на еден екран. Со примена на овластувања и постапки за одобрување според работните задачи, може да се намали повторливата работа, а истовремено да се одржат безбедносните политики на организацијата.
- Повикање алатки
- Повикање функции
- Генеративен AI
- AI агент
- Автоматизација на работата
- Интеграција со API