Para consultar a previsão do tempo de hoje, os horários do KTX, as taxas de câmbio e os materiais internos, é necessário alternar entre vários aplicativos e sistemas. Uma IA que usa apenas informações disponíveis até o momento em que seu treinamento foi concluído tem dificuldade para refletir situações que mudam continuamente.
O Tool Calling permite que a IA selecione ferramentas externas adequadas à solicitação do usuário, consulte informações atualizadas e execute tarefas. Neste artigo, explicamos como o Tool Calling funciona, seu escopo de aplicação e os aspectos a verificar durante o projeto.
O que é Tool Calling
Tool Calling é uma tecnologia que conecta modelos de linguagem de grande escala a funções externas, APIs, bancos de dados e sistemas corporativos. Depois de analisar a solicitação do usuário, a IA define as ferramentas necessárias e os valores de entrada, e usa os resultados retornados pelas ferramentas para responder ou executar a próxima tarefa.
| Classificação | Processamento baseado em dados de treinamento | Processamento baseado em Tool Calling |
|---|---|---|
| Momento das informações | Uso de informações disponíveis até o momento do treinamento do modelo | Uso de dados externos disponíveis no momento da chamada |
| Cálculos | Geração de resultados com base no contexto | Verificação dos resultados chamando uma calculadora ou funções de cálculo |
| Materiais internos | Uso apenas das informações incluídas no processo de treinamento | Consulta a bancos de dados e sistemas de documentos com acesso autorizado |
| Execução de tarefas | Geração de frases de resposta | Execução de tarefas como reservas, registros, envios e geração de relatórios |
Processo de tratamento da solicitação
O que é possível fazer com Tool Calling
O Tool Calling conecta a consulta de informações e a execução de tarefas em um único fluxo de conversa. Os usuários podem fornecer condições em linguagem natural sem precisar conhecer os métodos de pesquisa ou a localização dos menus de cada serviço. As empresas podem configurar de forma diferente as ferramentas que podem ser chamadas, de acordo com as permissões dos usuários e as regras de negócio.
| Áreas de aplicação | Destinos de conexão | Exemplos de processamento |
|---|---|---|
| Informações em tempo real | APIs de clima, trânsito, câmbio e cotações de ações | Consulta de informações atuais e comparação por condições |
| Cálculos precisos | Calculadoras, funções estatísticas e APIs de cálculo de tarifas | Cálculo de impostos, distâncias, custos e valores estatísticos |
| Informações internas | Repositórios de documentos, bancos de dados e sistemas de pesquisa | Pesquisa de regulamentos, contratos e dados de desempenho dentro do escopo de permissões |
| Gestão de agendas | Calendários e sistemas de reservas | Verificação de horários disponíveis e registro de compromissos |
| Comunicação | Sistemas de e-mail, mensageria e notificações | Redação e envio de mensagens após a aprovação do usuário |
| Automação de tarefas | Sistemas de relatórios, gestão de clientes e planejamento de recursos empresariais | Coleta de dados, preenchimento de formulários e alteração de status |
Aspectos a verificar durante o design
À medida que as conexões com sistemas externos aumentam, também se ampliam o escopo de acesso aos dados e as permissões de execução. Os operadores do serviço devem definir detalhadamente os procedimentos de validação antes e depois das chamadas, as formas de resposta a erros e os limites de custo. Os usuários devem poder verificar quais informações são enviadas para quais sistemas.
| Itens de verificação | Possíveis problemas | Métodos de design |
|---|---|---|
| Proteção de dados pessoais | Dados pessoais podem ser enviados para sistemas externos durante o processo de chamada | Enviar apenas os dados necessários e gerenciar a criptografia, o período de retenção e as condições de fornecimento a terceiros |
| Permissões de acesso | É possível acessar dados ou funcionalidades para os quais não há permissão de uso | Aplicar autenticação do usuário e permissões por função, além de verificar novamente as permissões antes da chamada |
| Precisão dos dados | A API pode retornar valores desatualizados ou incorretos | Exibir a data de referência e a fonte dos dados, aplicando validação e verificação cruzada |
| Responsabilidade pela execução | Ações não intencionais podem ser confirmadas durante processos de reserva, pagamento ou envio | Aplicar etapas de confirmação e aprovação do usuário a ações difíceis de cancelar |
| Gestão de custos | Os custos operacionais podem aumentar devido a chamadas repetidas e solicitações em massa | Definir limites para o número de chamadas, armazenamento de resultados e regras para evitar solicitações duplicadas |
| Manutenção | As APIs externas e os formatos de entrada podem ser alterados | Operar controle de versões, testes automatizados, detecção de falhas e procedimentos alternativos |
- Limite as informações sensíveis ao escopo necessário para a finalidade da chamada.
- Inclua uma etapa de aprovação do usuário para operações de pagamento, reserva, envio e exclusão.
- Registre continuamente o tempo de resposta, a taxa de erros e o custo das chamadas das ferramentas.
- Informe nos resultados a origem dos dados externos e o momento da consulta.
- Em caso de falha da ferramenta, aplique critérios para o número de tentativas e o processamento alternativo.
A abordagem da CLEVI para aplicação em operações reais
A aplicação da IA nas operações depende do desempenho do modelo, das ferramentas que podem ser conectadas, da precisão da execução e do nível de controle de segurança. Ao conectar várias ferramentas a uma solicitação, é possível realizar, na mesma tela, desde a busca de informações até a organização dos resultados e as tarefas subsequentes. Ao refletir as permissões e os procedimentos de aprovação de cada operação, é possível reduzir tarefas repetitivas mantendo as políticas de segurança da organização.
- Tool Calling
- Function Calling
- IA generativa
- Agente de IA
- Automação de operações
- Integração com API