Jos haluat tarkistaa tämänhetkisen sään, KTX-aikataulut, valuuttakurssit ja yrityksen sisäiset materiaalit erikseen, sinun on siirryttävä useiden sovellusten ja järjestelmien välillä. Tekoälyn, joka käyttää vain koulutuksensa päättymishetkellä saatavilla olleita tietoja, on vaikea huomioida jatkuvasti muuttuvia tilanteita.
Tool Calling tukee tekoälyä siten, että se voi valita käyttäjän pyynnön perusteella sopivat ulkoiset työkalut, hakea ajantasaisia tietoja ja suorittaa työtehtäviä. Tässä artikkelissa kerrotaan Tool Callingin toimintaperiaatteesta, käyttöalueista ja suunnittelussa huomioitavista asioista.
Mitä Tool Calling tarkoittaa
Tool Calling on teknologia, joka yhdistää suuret kielimallit ulkoisiin funktioihin, API-rajapintoihin, tietokantoihin ja työjärjestelmiin. Tekoäly analysoi käyttäjän pyynnön, määrittää tarvittavat työkalut ja syötearvot sekä vastaa työkalujen palauttamien tulosten perusteella tai suorittaa seuraavan tehtävän.
| Luokitus | Koulutusdataan perustuva käsittely | Tool Callingiin perustuva käsittely |
|---|---|---|
| Tietojen ajankohta | Mallin koulutushetkeen asti saatavilla olevien tietojen käyttö | Ulkoisten tietojen käyttö kutsuhetkellä |
| Laskenta | Tuloksen muodostaminen kontekstin perusteella | Tuloksen tarkistaminen kutsumalla laskinta tai laskentafunktiota |
| Yrityksen sisäiset materiaalit | Vain koulutusprosessiin sisältyneiden tietojen hyödyntäminen | Käyttöoikeuksien sallimien tietokantojen ja dokumenttijärjestelmien tarkistaminen |
| Työtehtävien suorittaminen | Vastaustekstin muodostaminen | Varausten, rekisteröintien ja lähetysten tekeminen sekä raporttien luominen |
Pyynnön käsittelyn vaiheet
Mitä Tool Callingilla voi tehdä
Tool Calling yhdistää tietojen haun ja tehtävien suorittamisen yhdeksi keskusteluksi. Käyttäjät voivat välittää ehtoja luonnollisella kielellä ilman, että heidän tarvitsee tietää kunkin palvelun hakutapaa tai valikkosijaintia. Yritykset voivat määrittää kutsuttavat työkalut eri tavoin käyttäjän käyttöoikeuksien ja liiketoimintasääntöjen mukaisesti.
| Käyttöalue | Yhdistettävät kohteet | Esimerkkejä käsittelystä |
|---|---|---|
| Reaaliaikaiset tiedot | Sää-, liikenne-, valuuttakurssi- ja osakekurssi-API:t | Ajantasaisten tietojen haku ja vertailu ehtojen mukaan |
| Tarkat laskutoimitukset | Laskimet, tilastofunktiot ja hinnoittelulaskennan API:t | Verojen, etäisyyksien, kustannusten ja tilastollisten arvojen laskeminen |
| Yrityksen sisäiset tiedot | Asiakirjavarastot, tietokannat ja hakujärjestelmät | Sääntöjen, sopimusten ja tulostietojen haku käyttöoikeuksien sallimissa rajoissa |
| Aikataulujen hallinta | Kalenterit ja varausjärjestelmät | Käytettävissä olevien aikojen tarkistaminen ja tapahtumien lisääminen kalenteriin |
| Viestintä | Sähköposti-, pikaviesti- ja ilmoitusjärjestelmät | Viestien laatiminen ja lähettäminen käyttäjän hyväksynnän jälkeen |
| Työn automatisointi | Raportointi-, asiakkuudenhallinta- ja toiminnanohjausjärjestelmät | Tietojen kerääminen, lomakkeiden täyttäminen ja tilan muuttaminen |
Suunnittelussa huomioitavat seikat
Kun yhteydet ulkoisiin järjestelmiin lisääntyvät, myös tietojen käyttöalue ja suoritusvaltuudet laajenevat. Palvelun ylläpitäjien on määritettävä yksityiskohtaisesti ennen kutsua ja sen jälkeen suoritettavat tarkistusmenettelyt, virhetilanteiden käsittelytavat ja kustannusrajat. Käyttäjien on voitava tarkistaa, mitä tietoja välitetään mihinkin järjestelmään.
| Tarkistettava kohde | Mahdollinen ongelma | Suunnittelumenetelmä |
|---|---|---|
| Henkilötietojen suoja | Henkilötietoja voidaan välittää ulkoiseen järjestelmään kutsun aikana | Lähetä vain tarvittavat tiedot ja hallitse salausta, säilytysaikaa ja kolmansille osapuolille luovuttamisen ehtoja |
| Käyttöoikeudet | Käyttäjä voi päästä käsiksi tietoihin tai toimintoihin, joihin hänellä ei ole käyttöoikeutta | Sovella käyttäjän todentamista ja roolikohtaisia käyttöoikeuksia sekä tarkista käyttöoikeudet uudelleen ennen kutsua |
| Tietojen tarkkuus | API voi palauttaa vanhentuneita tai virheellisiä arvoja | Ilmoita tietojen ajankohta ja lähde sekä sovella kelpoisuustarkistuksia ja ristiinvalidointia |
| Suoritusvastuu | Tahattomia toimintoja voidaan vahvistaa varaus-, maksu- tai lähetysprosessien aikana | Sovella käyttäjän vahvistus- ja hyväksyntävaiheita vaikeasti peruttaviin toimintoihin |
| Kustannusten hallinta | Toistuvat kutsut ja suuret pyynnöt voivat kasvattaa käyttökustannuksia | Aseta kutsujen määrärajoitukset, tallenna tulokset ja määritä päällekkäisten pyyntöjen estämistä koskevat säännöt |
| Ylläpito | Ulkoiset API:t ja syöttömuodot voivat muuttua | Ota käyttöön versionhallinta, automaattiset testit ja häiriöiden havaitseminen sekä ylläpidä vaihtoehtoisia käsittelymenettelyjä |
- Arkaluonteiset tiedot rajoitetaan kutsun tarkoituksen edellyttämään laajuuteen.
- Maksu-, varaus-, lähetys- ja poistotoiminnoille asetetaan käyttäjän hyväksyntävaihe.
- Työkalujen vastausaikaa, virheprosenttia ja kutsukustannuksia kirjataan jatkuvasti.
- Ulkoisten tietojen lähde ja hakuajankohta näytetään tuloksissa.
- Työkaluhäiriön ilmetessä sovelletaan uudelleenyritysten määrää ja vaihtoehtoisen käsittelyn kriteerejä.
CLEVI:n suuntaus käytännön työssä
Tekoälyn hyödyntäminen työssä riippuu mallin suorituskyvystä, yhdistettävissä olevista työkaluista, suorituskyvyn tarkkuudesta ja turvakontrollien tasosta. Kun yhteen pyyntöön yhdistetään useita työkaluja, tiedonhausta tulosten järjestämiseen ja jatkotoimiin voidaan edetä samassa näkymässä. Kun työkohtaiset käyttöoikeudet ja hyväksymismenettelyt otetaan huomioon, toistuvia tehtäviä voidaan vähentää organisaation turvallisuuspolitiikkaa ylläpitäen.
- Työkalukutsut
- Funktiokutsut
- Generatiivinen tekoäly
- AI-agentit
- Työnkulkujen automatisointi
- API-integraatiot