Para consultar o tempo de hoje, os horários do KTX, as taxas de câmbio e os materiais internos, é necessário alternar entre várias aplicações e sistemas. Uma IA que utiliza apenas informações disponíveis até ao momento em que terminou o treino tem dificuldade em refletir situações em constante mudança.
O Tool Calling permite que a IA selecione ferramentas externas adequadas ao pedido do utilizador, consulte informações atualizadas e execute tarefas. Neste artigo, explicamos como funciona o Tool Calling, o seu âmbito de aplicação e os aspetos a verificar durante a conceção.
O que é o Tool Calling
O Tool Calling é uma tecnologia que liga modelos de linguagem de grande escala a funções externas, APIs, bases de dados e sistemas empresariais. Depois de analisar o pedido do utilizador, a IA determina as ferramentas e os valores de entrada necessários e utiliza os resultados devolvidos pelas ferramentas para responder ou executar a tarefa seguinte.
| Categoria | Processamento baseado em dados de treino | Processamento baseado em Tool Calling |
|---|---|---|
| Momento da informação | Utilização de informações disponíveis até ao momento do treino do modelo | Utilização de dados externos disponíveis no momento da chamada |
| Cálculos | Geração de resultados com base no contexto | Verificação dos resultados através da chamada de uma calculadora ou de funções de cálculo |
| Materiais internos | Utilização apenas das informações incluídas no processo de treino | Consulta de bases de dados e sistemas de documentos aos quais o acesso é permitido |
| Execução de tarefas | Geração de texto de resposta | Execução de tarefas como efetuar reservas, registar, enviar e criar relatórios |
Processo de tratamento do pedido
O que é possível fazer com o Tool Calling
O Tool Calling liga a consulta de informações e a execução de tarefas num único fluxo de conversa. Os utilizadores podem transmitir condições em linguagem natural sem precisarem de conhecer os métodos de pesquisa ou a localização dos menus de cada serviço. As empresas podem configurar de forma diferente as ferramentas que podem ser chamadas, de acordo com as permissões dos utilizadores e as regras de negócio.
| Áreas de utilização | Destinos de ligação | Exemplos de processamento |
|---|---|---|
| Informações em tempo real | APIs de meteorologia, trânsito, câmbios e cotações de ações | Consulta de informações atuais e comparação por condições |
| Cálculos precisos | Calculadora, funções estatísticas e API de cálculo de tarifas | Cálculo de impostos, distâncias, custos e valores estatísticos |
| Informações internas | Repositórios de documentos, bases de dados e sistemas de pesquisa | Pesquisa de regulamentos, contratos e dados de desempenho dentro do âmbito das permissões |
| Gestão de agendas | Calendários e sistemas de reservas | Verificação de horários disponíveis e criação de eventos |
| Comunicação | Email, mensageiros e sistemas de notificações | Redação e envio de mensagens após aprovação do utilizador |
| Automatização de tarefas | Sistemas de relatórios, gestão de clientes e planeamento de recursos empresariais | Recolha de dados, preenchimento de formulários e alteração de estados |
Aspetos a verificar durante a conceção
À medida que aumentam as ligações a sistemas externos, aumenta também o âmbito do acesso aos dados e das permissões de execução. Os operadores do serviço devem definir concretamente os procedimentos de validação antes e depois das chamadas, os métodos de resposta a erros e os limites de custos. Os utilizadores devem poder verificar que informações são transmitidas e para que sistemas.
| Itens de verificação | Problemas possíveis | Métodos de conceção |
|---|---|---|
| Proteção de dados pessoais | Os dados pessoais podem ser transmitidos para sistemas externos durante o processo de chamada | Transmitir apenas os dados necessários e gerir a encriptação, o período de conservação e as condições de fornecimento a terceiros |
| Permissões de acesso | Pode ser possível aceder a dados ou funcionalidades para os quais não existem permissões de utilização | Aplicar a autenticação dos utilizadores e permissões por função, e voltar a confirmar as permissões antes da chamada |
| Exatidão dos dados | A API pode devolver valores desatualizados ou incorretos | Indicar a data dos dados e a fonte, e aplicar validações de validade e verificações cruzadas |
| Responsabilidade pela execução | Podem ser confirmadas operações não intencionais durante processos de reservas, pagamentos ou envios | Aplicar etapas de confirmação e aprovação do utilizador a operações difíceis de cancelar |
| Gestão de custos | Os custos operacionais podem aumentar devido a chamadas repetidas e pedidos em grande escala | Definir limites ao número de chamadas, armazenamento de resultados e regras para evitar pedidos duplicados |
| Manutenção | As APIs externas e os formatos de entrada podem sofrer alterações | Operar com gestão de versões, testes automatizados, deteção de falhas e procedimentos alternativos |
- Limitar as informações sensíveis ao âmbito necessário para o objetivo da chamada.
- Incluir uma etapa de aprovação do utilizador para operações de pagamento, reserva, envio e eliminação.
- Registar continuamente o tempo de resposta, a taxa de erros e o custo das chamadas das ferramentas.
- Indicar nos resultados a origem dos dados externos e o momento da consulta.
- Em caso de falha de uma ferramenta, aplicar critérios para o número de tentativas e o processamento alternativo.
A abordagem da CLEVI para a aplicação no trabalho real
A utilização da IA no trabalho varia consoante o desempenho do modelo, as ferramentas que podem ser ligadas, a precisão da execução e o nível de controlos de segurança. Ao ligar várias ferramentas a um único pedido, é possível tratar, no mesmo ecrã, desde a pesquisa de informações até à organização dos resultados e às tarefas subsequentes. Ao refletir as permissões e os procedimentos de aprovação de cada área de trabalho, é possível reduzir as tarefas repetitivas mantendo as políticas de segurança da organização.
- Tool Calling
- Function Calling
- IA generativa
- Agente de IA
- Automatização do trabalho
- Integração de API