Бүгінгі ауа райын, KTX пойыздарының кестесін, валюта бағамын және компания ішіндегі материалдарды бөлек-бөлек тексеру үшін бірнеше қолданба мен жүйе арасында ауысуға тура келеді. Оқыту аяқталған кездегі ақпаратты ғана пайдаланатын AI үнемі өзгеріп отыратын жағдайларды көрсетуге қиналады.
Tool Calling AI-ға пайдаланушының сұрауына сәйкес сыртқы құралдарды таңдап, ең соңғы ақпаратты алуға және жұмыс тапсырмаларын орындауға мүмкіндік береді. Бұл мақалада Tool Calling-тің жұмыс істеу тәсілі, қолданылу аясы және жобалау кезінде ескерілетін мәселелер түсіндіріледі.
Tool Calling дегеніміз не
Tool Calling — үлкен тілдік модельдерді сыртқы функцияларға, API интерфейстеріне, дерекқорларға және жұмыс жүйелеріне қосатын технология. AI пайдаланушының сұрауын талдағаннан кейін қажетті құралдар мен енгізу мәндерін анықтайды, содан соң құрал қайтарған нәтижені пайдаланып жауап береді немесе келесі тапсырманы орындайды.
| Санат | Оқыту деректеріне негізделген өңдеу | Tool Calling негізіндегі өңдеу |
|---|---|---|
| Ақпараттың өзектілігі | Модель оқытылған уақытқа дейінгі ақпаратты пайдалану | Шақыру жасалған кездегі сыртқы деректерді пайдалану |
| Есептеу | Контекст негізінде нәтиже жасау | Калькуляторды немесе есептеу функциясын шақырып, нәтижені тексеру |
| Компания ішіндегі материалдар | Оқыту процесіне енгізілген ақпаратты ғана пайдалану | Қолжетімділік рұқсат етілген дерекқорлар мен құжат жүйелерін тексеру |
| Жұмысты орындау | Жауап мәтінін жасау | Брондау, тіркеу, жіберу және есеп жасау сияқты тапсырмаларды орындау |
Сұрау өңделетін процесс
Tool Calling арқылы орындауға болатын әрекеттер
Tool Calling ақпаратты іздеу мен тапсырмаларды орындауды бір диалог ағынына біріктіреді. Пайдаланушылар әр қызметтің іздеу тәсілін немесе мәзір орналасуын білмей-ақ, шарттарын табиғи тілде жеткізе алады. Кәсіпорындар пайдаланушы құқықтары мен жұмыс ережелеріне қарай шақыруға болатын құралдарды әртүрлі конфигурациялай алады.
| Қолдану саласы | Қосылу нысандары | Өңдеу мысалдары |
|---|---|---|
| Нақты уақыттағы ақпарат | Ауа райы, көлік қозғалысы, валюта бағамы, акция бағасы API-лары | Ағымдағы уақыттағы ақпаратты іздеу және шарттар бойынша салыстыру |
| Дәл есептеулер | Калькулятор, статистикалық функциялар, тарифті есептеу API-лары | Салықтарды, қашықтықты, шығындарды және статистикалық мәндерді есептеу |
| Ішкі ақпарат | Құжаттар қоймасы, дерекқор, іздеу жүйесі | Қолжетімділік құқықтары шегінде ережелерді, келісімшарттарды және нәтижелер туралы материалдарды іздеу |
| Кестені басқару | Күнтізбе, брондау жүйесі | Қолжетімді уақытты тексеру және кестеге тіркеу |
| Коммуникация | Электрондық пошта, мессенджер, хабарландыру жүйесі | Пайдаланушы мақұлдағаннан кейін хабарлама жасау және жіберу |
| Жұмыс үдерістерін автоматтандыру | Есеп беру, клиенттермен жұмыс істеу, кәсіпорын ресурстарын басқару жүйелері | Материалдарды жинау, пішіндерді толтыру және күйді өзгерту |
Жобалау кезінде тексерілуі тиіс мәселелер
Сыртқы жүйелермен байланыстар көбейген сайын деректерге қолжетімділік ауқымы мен орындау құқықтары да кеңейеді. Қызмет операторлары шақыруға дейінгі және одан кейінгі тексеру рәсімдерін, қателерді өңдеу тәсілдерін және шығын шектерін нақты белгілеуі керек. Пайдаланушылар қандай ақпараттың қай жүйеге жіберілетінін тексере алуы тиіс.
| Тексерілетін тармақ | Туындауы мүмкін мәселе | Жобалау тәсілі |
|---|---|---|
| Жеке деректерді қорғау | Шақыру барысында жеке деректер сыртқы жүйеге жіберілуі мүмкін | Тек қажетті деректерді жіберіп, шифрлауды, сақтау мерзімін және үшінші тарапқа ұсыну шарттарын басқару |
| Қолжетімділік құқықтары | Пайдалануға рұқсаты жоқ материалдар мен функцияларға қол жеткізілуі мүмкін | Пайдаланушы аутентификациясын және рөлдерге қарай қолжетімділік құқықтарын қолданып, шақыру алдында құқықтарды қайта тексеру |
| Деректердің дұрыстығы | API ескірген немесе қате мәндерді қайтаруы мүмкін | Деректердің уақытын және дереккөзін көрсету, жарамдылықты тексеру мен өзара тексеруді қолдану |
| Орындау жауапкершілігі | Брондау, төлем жасау немесе жіберу барысында ойда болмаған әрекет бекітілуі мүмкін | Болдырмауы қиын әрекеттерге пайдаланушының растауы мен мақұлдау кезеңдерін енгізу |
| Шығындарды басқару | Қайталама шақырулар мен жаппай сұраулар пайдалану шығындарын арттыруы мүмкін | Шақыру санына шектеу, нәтижелерді сақтау және қайталама сұраулардың алдын алу ережелерін белгілеу |
| Техникалық қызмет көрсету | Сыртқы API мен енгізу пішімі өзгеруі мүмкін | Нұсқаларды басқаруды, автоматтандырылған тестілеуді, ақауларды анықтауды және балама өңдеу рәсімдерін жүргізу |
- Сезімтал ақпаратты қоңырау мақсатына қажетті көлеммен шектеңіз.
- Төлем жасау, брондау, жіберу және жою әрекеттері үшін пайдаланушының мақұлдау қадамын енгізіңіз.
- Құралдардың жауап беру уақытын, қателер деңгейін және қоңырау шалу құнын үздіксіз тіркеңіз.
- Сыртқы деректердің қайнаркөзін және алынған уақытын нәтижеде көрсетіңіз.
- Құрал істен шыққан жағдайда қайта әрекет жасау санын және балама өңдеу критерийлерін қолданыңыз.
CLEVI-дің нақты жұмысқа енгізу бағыты
AI-ды жұмыста пайдалану деңгейі модель өнімділігіне, қосуға болатын құралдарға, орындау дәлдігіне және қауіпсіздік бақылауының деңгейіне байланысты. Бір сұрауға бірнеше құралды қосу арқылы ақпарат іздеуден бастап нәтижелерді реттеуге және кейінгі әрекеттерге дейінгі жұмыстарды бір экранда орындауға болады. Әр жұмысқа арналған рұқсаттар мен мақұлдау рәсімдерін енгізу ұйымның қауіпсіздік саясатын сақтай отырып, қайталанатын жұмыстарды азайтуға мүмкіндік береді.
- Tool Calling
- Function Calling
- Генеративті AI
- AI агенті
- Жұмысты автоматтандыру
- API интеграциясы