Til að fletta upp veðri dagsins, lestaráætlun KTX, gengi gjaldmiðla og innri gögnum fyrirtækisins þarf að skipta á milli margra forrita og kerfa. Gervigreind sem notar aðeins upplýsingar frá því þegar þjálfun lauk á erfitt með að endurspegla aðstæður sem breytast stöðugt.
Tool Calling gerir gervigreind kleift að velja utanaðkomandi verkfæri sem henta beiðni notandans og sækja nýjustu upplýsingar eða framkvæma verkefni. Í þessari grein er fjallað um hvernig Tool Calling virkar, notkunarsvið þess og atriði sem þarf að hafa í huga við hönnun.
Hvað er Tool Calling?
Tool Calling er tækni sem tengir stór mállíkön við utanaðkomandi föll, API, gagnagrunna og viðskiptakerfi. Gervigreindin greinir beiðni notandans, ákvarðar hvaða verkfæri og inntaksgildi eru nauðsynleg og notar síðan niðurstöður verkfæranna til að svara eða framkvæma næsta verkefni.
| Flokkur | Vinnsla byggð á þjálfunargögnum | Vinnsla byggð á Tool Calling |
|---|---|---|
| Tímasetning upplýsinga | Notkun upplýsinga til þess tíma sem líkanið var þjálfað | Notkun utanaðkomandi gagna við kalltíma |
| Útreikningar | Niðurstaða mynduð út frá samhengi | Niðurstaða staðfest með því að kalla á reiknivél eða reiknifall |
| Innri gögn fyrirtækisins | Aðeins upplýsingar sem voru innifaldar í þjálfunarferlinu nýttar | Flett upp í gagnagrunnum og skjalakerfum sem aðgangsheimildir leyfa |
| Framkvæmd verkefna | Setning sem svar mynduð | Verkefni eins og bókun, skráning, sending og skýrslugerð framkvæmd |
Ferlið við vinnslu beiðni
Hvað er hægt að gera með Tool Calling
Tool Calling tengir upplýsingaleit og framkvæmd verkefna saman í einu samtalsflæði. Notendur geta lýst skilyrðum á náttúrulegu máli án þess að þurfa að þekkja leitaraðferðir eða valmyndastaðsetningar einstakra þjónusta. Fyrirtæki geta stillt mismunandi verkfæri sem hægt er að kalla á, í samræmi við heimildir notenda og verklagsreglur.
| Notkunarsvið | Tengdir áfangastaðir | Dæmi um úrvinnslu |
|---|---|---|
| Rauntímaupplýsingar | Veður-, umferðar-, gjaldmiðla- og hlutabréfa-API | Leit að upplýsingum á yfirstandandi tíma og samanburður eftir skilyrðum |
| Nákvæmir útreikningar | Reiknivélar, tölfræðiföll og API fyrir gjaldútreikninga | Útreikningur á sköttum, vegalengdum, kostnaði og tölfræðilegum gildum |
| Innri upplýsingar | Skjalageymslur, gagnagrunnar og leitarkerfi | Leit að reglum, samningum og gögnum um árangur innan marka aðgangsheimilda |
| Dagskrárstjórnun | Dagatöl og bókunarkerfi | Athugun á lausum tímum og skráning viðburða |
| Samskipti | Tölvupóstur, skilaboðakerfi og tilkynningakerfi | Gerð og sending skilaboða eftir samþykki notanda |
| Sjálfvirkni verkefna | Skýrslu-, viðskiptamanna- og fyrirtækjaauðlindakerfi | Söfnun gagna, útfylling eyðublaða og breyting á stöðu |
Atriði sem þarf að hafa í huga við hönnun
Eftir því sem tengingum við ytri kerfi fjölgar eykst einnig umfang gagnaaðgangs og framkvæmdarheimilda. Rekstraraðilar þjónustunnar þurfa að skilgreina nákvæmlega sannprófunarferli fyrir og eftir köllun, viðbrögð við villum og kostnaðarhámark. Notendur þurfa að geta séð hvaða upplýsingar eru sendar í hvaða kerfi.
| Atriði til skoðunar | Möguleg vandamál | Hönnunaraðferð |
|---|---|---|
| Persónuvernd | Persónuupplýsingar kunna að vera sendar í ytra kerfi meðan á köllun stendur | Senda aðeins nauðsynleg gögn og hafa umsjón með dulkóðun, varðveislutíma og skilyrðum miðlunar til þriðja aðila |
| Aðgangsheimildir | Hægt er að fá aðgang að gögnum eða virkni sem notandi hefur ekki heimild til að nota | Beita auðkenningu notenda og hlutverkatengdum heimildum og endurstaðfesta heimildir áður en kallað er á |
| Nákvæmni gagna | API kann að skila úreltum eða röngum gildum | Birta tímapunkt og uppruna gagna og beita sannprófun á gildi og krossprófun |
| Ábyrgð á framkvæmd | Óæskilegar aðgerðir kunna að verða staðfestar við bókun, greiðslu eða sendingu | Beita staðfestingar- og samþykkisþrepum fyrir aðgerðir sem erfitt er að afturkalla |
| Kostnaðarstýring | Rekstrarkostnaður kann að aukast vegna endurtekinna kalla og stórra beiðna | Setja takmörk á fjölda kalla, geyma niðurstöður og skilgreina reglur til að koma í veg fyrir tvíteknar beiðnir |
| Viðhald | Ytri API og inntakssnið kunna að breytast | Viðhafa útgáfustjórnun, sjálfvirk próf, bilanagreiningu og verklag fyrir varameðhöndlun |
- Viðkvæmum upplýsingum er haldið innan þess umfangs sem nauðsynlegt er fyrir tilgang beiðninnar.
- Krafist er samþykkis notanda fyrir greiðslum, bókunum, sendingum og eyðingum.
- Við skráum stöðugt svarstíma tóla, villutíðni og kostnað við köll.
- Uppruni ytri gagna og tímasetning fyrirspurnar eru sýnd í niðurstöðunum.
- Ef truflun verður á tóli er beitt viðmiðum um fjölda endurtekningartilrauna og varameðhöndlun.
Stefna CLEVI í hagnýtri notkun í raunverulegu starfsemi
Hagnýting AI í starfsemi ræðst af afköstum líkansins, þeim tólum sem hægt er að tengjast, nákvæmni framkvæmdar og umfangi öryggiseftirlits. Með því að tengja mörg tól við eina beiðni er hægt að sinna öllu ferlinu, frá upplýsingaleit til úrvinnslu niðurstaðna og eftirfylgdaraðgerða, á sama skjá. Með því að endurspegla heimildir og samþykkisferla fyrir hvert starfssvið er hægt að draga úr endurteknum verkefnum en viðhalda öryggisstefnu fyrirtækisins.
- Tólaköll
- Aðgerðaköll
- Generative AI
- AI-umboðsmenn
- Sjálfvirknivæðing verkefna
- API-tenging
