Om het weer van vandaag, de KTX-dienstregeling, wisselkoersen en interne bedrijfsdocumenten afzonderlijk op te zoeken, moet u tussen meerdere apps en systemen schakelen. AI die alleen informatie gebruikt tot het moment waarop de training is voltooid, kan voortdurend veranderende situaties moeilijk weerspiegelen.
Tool Calling ondersteunt AI bij het selecteren van externe tools die aansluiten op het verzoek van de gebruiker, het opvragen van actuele informatie en het uitvoeren van werkzaamheden. In dit artikel leggen we uit hoe Tool Calling werkt, binnen welke gebieden het kan worden toegepast en waarmee u bij het ontwerp rekening moet houden.
Wat is Tool Calling?
Tool Calling is een technologie die grote taalmodellen koppelt aan externe functies, API's, databases en bedrijfssystemen. AI analyseert het verzoek van de gebruiker, bepaalt vervolgens welke tools en invoerwaarden nodig zijn en gebruikt de door de tools geretourneerde resultaten om een antwoord te geven of de volgende taak uit te voeren.
| Categorie | Verwerking op basis van trainingsgegevens | Verwerking op basis van Tool Calling |
|---|---|---|
| Moment van informatie | Informatie gebruiken tot het moment van modeltraining | Externe gegevens gebruiken op het moment van aanroepen |
| Berekening | Resultaten genereren op basis van de context | Een rekenmachine of rekenfunctie aanroepen om het resultaat te controleren |
| Interne bedrijfsdocumenten | Alleen informatie gebruiken die in het trainingsproces is opgenomen | Databases en documentsystemen raadplegen waarvoor toestemming is verleend |
| Uitvoering van werkzaamheden | Antwoordtekst genereren | Werkzaamheden uitvoeren zoals reserveren, registreren, verzenden en rapporten genereren |
Het proces waarin een verzoek wordt verwerkt
Wat mogelijk is met Tool Calling
Tool Calling verbindt het opvragen van informatie en het uitvoeren van taken binnen één conversatiestroom. Gebruikers kunnen voorwaarden in natuurlijke taal doorgeven zonder de zoekmethode of menulocatie van elke service te kennen. Bedrijven kunnen de beschikbare tools verschillend configureren op basis van gebruikersrechten en bedrijfsregels.
| Toepassingsgebied | Verbonden systemen | Voorbeeldverwerking |
|---|---|---|
| Realtime-informatie | API's voor weer, verkeer, wisselkoersen en aandelenkoersen | Informatie op het huidige moment opvragen en vergelijken op basis van voorwaarden |
| Nauwkeurige berekeningen | Rekenmachines, statistische functies en API's voor tariefberekeningen | Belastingen, afstanden, kosten en statistische waarden berekenen |
| Interne informatie | Documentopslag, databases en zoeksystemen | Regelgeving, contracten en prestatiegegevens zoeken binnen het toegestane machtigingsbereik |
| Agendabeheer | Agenda's en reserveringssystemen | Beschikbare tijden controleren en afspraken registreren |
| Communicatie | E-mail, messengers en meldingssystemen | Berichten opstellen en verzenden na goedkeuring door de gebruiker |
| Taakautomatisering | Rapportage-, klantbeheer- en enterprise resource planning-systemen | Gegevens verzamelen, formulieren invullen en statussen wijzigen |
Punten die bij het ontwerp moeten worden gecontroleerd
Naarmate er meer externe systemen worden verbonden, wordt ook het bereik van de gegevenstoegang en de uitvoeringsrechten uitgebreid. Servicebeheerders moeten de verificatieprocedures voor en na het aanroepen, de manier waarop met fouten wordt omgegaan en de kostenlimieten concreet vaststellen. Gebruikers moeten kunnen controleren welke informatie naar welk systeem wordt verzonden.
| Controlepunt | Mogelijk probleem | Ontwerpmethode |
|---|---|---|
| Bescherming van persoonsgegevens | Tijdens het aanroepen kunnen persoonsgegevens naar externe systemen worden verzonden | Verzend alleen de benodigde gegevens en beheer versleuteling, bewaartermijnen en voorwaarden voor verstrekking aan derden |
| Toegangsrechten | Er kan toegang worden verkregen tot gegevens of functies waarvoor geen gebruiksrecht bestaat | Pas gebruikersauthenticatie en machtigingen per rol toe en controleer de machtigingen opnieuw vóór het aanroepen |
| Gegevensnauwkeurigheid | De API kan verouderde of onjuiste waarden retourneren | Vermeld het tijdstip en de bron van de gegevens en pas validatie en kruisvalidatie toe |
| Verantwoordelijkheid voor uitvoering | Tijdens reserveringen, betalingen of verzendingen kunnen onbedoelde handelingen definitief worden bevestigd | Pas voor moeilijk te annuleren handelingen bevestiging en goedkeuringsstappen door de gebruiker toe |
| Kostenbeheer | Operationele kosten kunnen stijgen door herhaalde aanroepen en grote hoeveelheden verzoeken | Stel limieten voor het aantal aanroepen, opslag van resultaten en regels ter voorkoming van dubbele verzoeken in |
| Onderhoud | Externe API's en invoerformaten kunnen wijzigen | Beheer versiebeheer, geautomatiseerde tests, storingsdetectie en procedures voor alternatieve verwerking |
- Beperk gevoelige informatie tot het bereik dat nodig is voor het doel van de aanroep.
- Voor betalingen, reserveringen, verzendingen en verwijderingen wordt een goedkeuringsstap door de gebruiker ingebouwd.
- Leg voortdurend de responstijd, het foutpercentage en de aanroepkosten van tools vast.
- Vermeld in de resultaten de bron van externe gegevens en het tijdstip waarop deze zijn geraadpleegd.
- Pas bij een storing van een tool het aantal pogingen en de criteria voor alternatieve verwerking toe.
De aanpak van CLEVI voor toepassing in de praktijk
De toepasbaarheid van AI in het werk hangt af van de modelprestaties, de tools waarmee verbinding kan worden gemaakt, de nauwkeurigheid van de uitvoering en het niveau van de beveiligingscontroles. Door meerdere tools aan één verzoek te koppelen, kunnen informatie zoeken, resultaten ordenen en vervolgacties op één scherm worden uitgevoerd. Door bevoegdheden en goedkeuringsprocedures per werktaak toe te passen, kunnen herhaalwerkzaamheden worden verminderd terwijl het beveiligingsbeleid van de organisatie wordt gehandhaafd.
- Tool Calling
- Function Calling
- Generatieve AI
- AI-agent
- Werkautomatisering
- API-integratie