Чтобы узнать сегодняшнюю погоду, расписание KTX, обменный курс и внутренние материалы компании, приходится переключаться между несколькими приложениями и системами. ИИ, использующий только информацию, доступную на момент завершения обучения, сложно учитывать постоянно меняющиеся обстоятельства.
Tool Calling позволяет ИИ выбирать внешние инструменты в соответствии с запросом пользователя, получать актуальную информацию и выполнять рабочие задачи. В этой статье объясняется, как работает Tool Calling, где он применяется и что необходимо учитывать при проектировании.
Что такое Tool Calling
Tool Calling — это технология, которая подключает большие языковые модели к внешним функциям, API, базам данных и рабочим системам. ИИ анализирует запрос пользователя, определяет необходимые инструменты и входные значения, а затем использует возвращённые инструментом результаты для формирования ответа или выполнения следующей задачи.
| Категория | Обработка на основе обучающих данных | Обработка на основе Tool Calling |
|---|---|---|
| Время актуальности информации | Использование информации по состоянию на момент обучения модели | Использование внешних данных на момент вызова |
| Вычисления | Формирование результата на основе контекста | Проверка результата с помощью вызова калькулятора или функции вычислений |
| Внутренние материалы компании | Использование только информации, включённой в процесс обучения | Запрос данных из баз данных и систем документооборота, доступ к которым разрешён |
| Выполнение рабочих задач | Формирование текста ответа | Выполнение таких задач, как бронирование, регистрация, отправка и создание отчётов |
Процесс обработки запроса
Что можно делать с помощью Tool Calling
Вызов инструментов связывает получение информации и выполнение задач в единый диалоговый процесс. Пользователь может передавать условия на естественном языке, не зная способов поиска или расположения меню каждого сервиса. Предприятие может по-разному настраивать доступные для вызова инструменты в соответствии с правами пользователей и рабочими правилами.
| Области применения | Подключаемые системы | Примеры обработки |
|---|---|---|
| Информация в реальном времени | API погоды, транспорта, обменных курсов и котировок акций | Получение информации на текущий момент и сравнение по заданным условиям |
| Точные вычисления | Калькулятор, статистические функции, API расчёта тарифов | Расчёт налогов, расстояний, затрат и статистических показателей |
| Внутренняя информация | Хранилища документов, базы данных, поисковые системы | Поиск нормативных документов, договоров и данных о результатах работы в пределах предоставленных прав |
| Управление расписанием | Календари, системы бронирования | Проверка доступного времени и создание событий |
| Коммуникации | Электронная почта, мессенджеры, системы уведомлений | Создание и отправка сообщений после подтверждения пользователя |
| Автоматизация задач | Системы подготовки отчётов, управления взаимоотношениями с клиентами и планирования ресурсов предприятия | Сбор данных, заполнение форм, изменение статуса |
Что необходимо проверить при проектировании
При увеличении числа подключений к внешним системам одновременно расширяются и диапазон доступа к данным, и права на выполнение действий. Операторы сервисов должны конкретно определить процедуры проверки до и после вызова, способы обработки ошибок и лимиты затрат. Пользователь должен иметь возможность проверить, какая информация и в какую систему передаётся.
| Проверяемый пункт | Возможная проблема | Метод проектирования |
|---|---|---|
| Защита персональных данных | В процессе вызова персональные данные могут передаваться во внешние системы | Передавать только необходимые данные, управлять шифрованием, сроком хранения и условиями предоставления третьим лицам |
| Права доступа | Возможен доступ к материалам или функциям, на использование которых нет разрешения | Применять аутентификацию пользователей и права доступа по ролям, а перед вызовом повторно проверять права |
| Точность данных | API может возвращать устаревшие или неверные значения | Указывать время получения и источник данных, применять проверку достоверности и перекрёстную проверку |
| Ответственность за выполнение | В процессе бронирования, оплаты или отправки может быть подтверждено непреднамеренное действие | Для действий, которые сложно отменить, применять подтверждение пользователя и этап утверждения |
| Управление затратами | Операционные расходы могут увеличиться из-за повторных вызовов и большого количества запросов | Устанавливать ограничения на количество вызовов, сохранять результаты и задавать правила предотвращения дублирующих запросов |
| Техническое обслуживание | Внешние API и форматы входных данных могут измениться | Организовать управление версиями, автоматическое тестирование, обнаружение сбоев и процедуры резервной обработки |
- Ограничивайте обработку конфиденциальной информации объемом, необходимым для цели вызова.
- Для операций оплаты, бронирования, отправки и удаления предусматривайте этап подтверждения пользователем.
- Непрерывно фиксируйте время отклика инструментов, уровень ошибок и стоимость вызовов.
- Указывайте в результатах источник внешних данных и время их получения.
- В случае сбоя инструмента применяйте установленные критерии количества повторных попыток и альтернативной обработки.
Подход CLEVI к применению в реальной работе
Практическая ценность ИИ зависит от производительности модели, доступных для подключения инструментов, точности выполнения и уровня средств безопасности. Подключив несколько инструментов к одному запросу, можно выполнять в одном интерфейсе все операции — от поиска информации до систематизации результатов и последующих действий. Учет рабочих полномочий и процедур утверждения позволяет сокращать повторяющиеся задачи, сохраняя при этом политики безопасности организации.
- Tool Calling
- Function Calling
- Генеративный ИИ
- ИИ-агент
- Автоматизация рабочих процессов
- Интеграция с API