Pentru a verifica separat vremea de astăzi, orarul KTX, cursul de schimb și documentele interne ale companiei, trebuie să treceți între mai multe aplicații și sisteme. AI-ul care folosește doar informațiile disponibile la momentul finalizării instruirii are dificultăți în a reflecta situațiile care se schimbă constant.
Tool Calling permite AI-ului să selecteze instrumente externe potrivite pentru solicitarea utilizatorului, să obțină cele mai recente informații și să execute sarcini. În acest articol sunt explicate modul de funcționare al Tool Calling, domeniul de utilizare și aspectele de verificat la proiectare.
Ce este Tool Calling
Tool Calling este o tehnologie care conectează modelele lingvistice de mari dimensiuni la funcții externe, API-uri, baze de date și sisteme de lucru, astfel încât acestea să poată fi apelate. După ce analizează solicitarea utilizatorului, AI-ul stabilește instrumentele și valorile de intrare necesare, apoi folosește rezultatele returnate de instrumente pentru a formula un răspuns sau a efectua următoarea sarcină.
| Categorie | Procesare bazată pe datele de instruire | Procesare bazată pe Tool Calling |
|---|---|---|
| Momentul informațiilor | Utilizarea informațiilor disponibile până la momentul instruirii modelului | Utilizarea datelor externe disponibile la momentul apelului |
| Calcul | Generarea rezultatului pe baza contextului | Verificarea rezultatului prin apelarea unui calculator sau a unei funcții de calcul |
| Documente interne ale companiei | Utilizarea doar a informațiilor incluse în procesul de instruire | Interogarea bazelor de date și a sistemelor de documente pentru care sunt acordate drepturi de acces |
| Executarea sarcinilor | Generarea unui răspuns textual | Efectuarea unor sarcini precum rezervări, înregistrări, trimiteri și generarea de rapoarte |
Procesul de procesare a solicitării
Ce este posibil cu Tool Calling
Tool Calling conectează consultarea informațiilor și executarea sarcinilor într-un singur flux conversațional. Utilizatorii pot transmite condiții în limbaj natural fără să cunoască metodele de căutare sau locația meniurilor fiecărui serviciu. Companiile pot configura diferit instrumentele care pot fi apelate, în funcție de permisiunile utilizatorilor și de regulile de lucru.
| Domenii de utilizare | Sisteme conectate | Exemple de procesare |
|---|---|---|
| Informații în timp real | API-uri pentru vreme, trafic, curs valutar și prețuri ale acțiunilor | Consultarea informațiilor actuale și compararea în funcție de condiții |
| Calcule precise | Calculatoare, funcții statistice, API-uri pentru calcularea tarifelor | Calcularea taxelor, distanțelor, costurilor și valorilor statistice |
| Informații interne | Depozite de documente, baze de date, sisteme de căutare | Căutarea regulamentelor, contractelor și datelor privind performanța în limitele permisiunilor |
| Gestionarea programului | Calendare, sisteme de rezervare | Verificarea intervalelor disponibile și înregistrarea programărilor |
| Comunicare | E-mail, mesagerie, sisteme de notificare | Redactarea și trimiterea mesajelor după aprobarea utilizatorului |
| Automatizarea sarcinilor | Sisteme de raportare, de gestionare a clienților și de planificare a resurselor întreprinderii | Colectarea datelor, completarea formularelor și modificarea stării |
Aspecte de verificat la proiectare
Pe măsură ce crește numărul conexiunilor la sisteme externe, se extind și domeniul de acces la date și permisiunile de executare. Operatorii serviciilor trebuie să definească în detaliu procedurile de verificare înainte și după apelare, metodele de gestionare a erorilor și limitele de cost. Utilizatorii trebuie să poată verifica ce informații sunt transmise către ce sisteme.
| Element de verificat | Problemă posibilă | Metodă de proiectare |
|---|---|---|
| Protecția datelor cu caracter personal | Datele cu caracter personal pot fi transmise către sisteme externe în timpul apelării | Transmiteți doar datele necesare și gestionați criptarea, perioada de păstrare și condițiile de furnizare către terți |
| Permisiuni de acces | Se poate accesa materiale sau funcții pentru care nu există permisiuni de utilizare | Aplicați autentificarea utilizatorului și permisiuni în funcție de rol și verificați din nou permisiunile înainte de apelare |
| Acuratețea datelor | API-ul poate returna valori învechite sau incorecte | Afișați momentul și sursa datelor și aplicați validarea și verificarea încrucișată |
| Responsabilitatea pentru executare | În timpul rezervării, plății sau transmiterii, pot fi confirmate acțiuni neintenționate | Aplicați confirmarea utilizatorului și etape de aprobare pentru acțiunile greu de anulat |
| Gestionarea costurilor | Costurile de operare pot crește din cauza apelărilor repetate și a solicitărilor în volum mare | Stabiliți limite pentru numărul de apelări, stocarea rezultatelor și reguli de prevenire a solicitărilor duplicate |
| Întreținere | API-urile externe și formatele de intrare se pot modifica | Operați gestionarea versiunilor, testarea automată, detectarea defecțiunilor și proceduri alternative de procesare |
- Limitați informațiile sensibile la domeniul necesar scopului apelului.
- Includeți o etapă de aprobare din partea utilizatorului pentru operațiunile de plată, rezervare, trimitere și ștergere.
- Înregistrați în mod constant timpul de răspuns al instrumentelor, rata de eroare și costul apelurilor.
- Afișați în rezultate sursa datelor externe și momentul interogării.
- În cazul unei defecțiuni a instrumentului, aplicați criterii privind numărul de reîncercări și procesarea alternativă.
Direcția CLEVI pentru aplicarea în activitatea reală
Utilitatea AI în activitate variază în funcție de performanța modelului, instrumentele care pot fi conectate, acuratețea execuției și nivelul controalelor de securitate. Prin conectarea mai multor instrumente la o singură solicitare, puteți gestiona în același ecran totul, de la căutarea informațiilor până la organizarea rezultatelor și efectuarea acțiunilor ulterioare. Prin reflectarea permisiunilor și procedurilor de aprobare specifice fiecărei activități, puteți reduce sarcinile repetitive, menținând în același timp politicile de securitate ale organizației.
- Tool Calling
- Function Calling
- AI generativă
- Agent AI
- Automatizarea activităților
- Integrare API