Developer guide
Mudel
Mudeli kokkuvõte
CLEVI mudelid jagunevad kolmeks tooteperekonnaks: CIP, mis vastutab üldotstarbelise intelligentsuse ja tööde automatiseerimise eest; Cosa, mis vastutab kõne genereerimise ja tuvastamise eest; ning Cova, mis vastutab dokumentidest ja piltidelt teabe ekstraheerimise eest. Iga toodet saab kasutada iseseisvalt või ühendada teenuseks, mis hõlmab dokumendituvastust, analüüsi, tööde teostamist ja kõnejuhiseid.
| Toode | Mudeli ID | Peamised spetsifikatsioonid | Põhiroll |
|---|---|---|---|
| CIP-5.5-SM | cip-5.5-sm | 24B~40B kohandatav | Ääreservid ja kohalik tööde automatiseerimine |
| CIP-5.5-IM | cip-5.5-im | 360B · sisend 256K · väljund 64K · multimodaalne | Üldotstarbeline töötlus. Eelistatud on vastamiskiirus ja läbilaskevõime |
| CIP-5.5-MM | cip-5.5-mm | 800B · sisend 512K · väljund 64K · multimodaalne | Pika konteksti analüüs ja keerukate probleemide lahendamine |
| Cosa-A | cosa-a | Kõnesüntees · replikatsioon · disain · voogedastus | Kõne genereerimine üksikasjaliku sünteesikontrolli abil |
| Cosa-B | cosa-b | Kõnesüntees · replikatsioon · disain · voogedastus | Hääle valimine ja kohandatud kõne genereerimine |
| Cosa ASR | cosa-asr | Kõnetuvastus | Kõnesisendi teisendamine tekstiks |
| Cova | cova-1 | LLM-il põhinev spetsiaalne visuaalne OCR | Teksti, paigutuse ja tabelite ekstraheerimine ning lihtne piltide kirjeldamine |
CIP
CIP vastutab üldotstarbelise intelligentsuse ja tööde automatiseerimise eest. See koosneb lüüsi kaudu kutsutavatest mudelitest cip-5.5-im ja cip-5.5-mm ning ääreservidesse ja kohapealsesse keskkonda juurutatavast mudelist cip-5.5-sm.
cip-5.5-im ja cip-5.5-mm
| Üksus | cip-5.5-im | cip-5.5-mm |
|---|---|---|
| Suurus | 360B | 800B |
| Sisendlimiit | 256K | 512K |
| Maksimaalne väljund | 64K | 64K |
| Sisendvorming | Tekst ja visuaalne materjal (dokumendid, ekraanipildid, tabelid ja diagrammid) | Tekst ja visuaalne materjal (ülevaatamine, ühendades koodi, dokumendid ja ekraanimaterjalid) |
| Fookus | Töötleb igapäevaseid teadmistepõhiseid tööülesandeid ja arendustöid, keskendudes vastamiskiirusele, kulutõhususele ja läbilaskevõimele. | Töötleb keerukaid tööülesandeid, mis koondavad ja analüüsivad mitmesuguseid materjale ja tingimusi ning seovad analüüsitulemused tegeliku tööga. |
| Pika sisendi kasutus | Vaatab koos läbi mitu dokumenti, koodifaili ja vestlusajaloo. | Käsitleb koos mahukaid lähtematerjale ja tööajalugu ning täidab agenditöid, milles uurimine, teostamine ja valideerimine toimuvad mitmes etapis. |
cip-5.5-im sobib selge eesmärgi ja tööulatusega ülesannete jaoks. Tüüpilised ülesanded on vajaliku teabe eraldamine esitatud materjalidest, tulemuste koostamine määratud vormingus ning koodi muutmine vastavalt nõuetele. Maksimaalset 64K väljundit kasutatakse üksikasjalike aruannete või mitmest osast koosnevate tulemuste koostamiseks.
- Arenduse tugi: funktsioonide ja võimaluste kirjutamine, selgelt piiritletud vigade parandamine ning olemasolevate mustrite järgi juurutamine.
- Testide loomine: nõuete ja teostuse põhjal testikavandite ja kontrolljuhtumite koostamine.
- Dokumentide töötlemine: kokkuvõtete ja liigituste koostamine, üksuste eraldamine, vormingu teisendamine ning kavandite kirjutamine.
- Multimodaalne analüüs: ekraanipiltide ning dokumentide tabelite ja diagrammide läbivaatamine koos asjakohaste selgitustega.
- Interaktiivne tööalane tugi: tööalaste materjalide põhjal küsimustele vastamine ja vajalike tulemuste koostamine.
- Mahukas töötlemine: paljude dokumentide individuaalsete kokkuvõtete koostamine, päringute liigitamine ja andmete teisendamine.
- Alamagent: selgelt piiritletud alamülesannete täitmine, näiteks koodi uurimine, konkreetsete failide läbivaatamine ja materjalide korrastamine.
Näiteks kasutatakse seda funktsionaalsusnõuete ja seotud koodi põhjal muudatusettepaneku, testide ja muudatuste kirjelduse koostamiseks või vastuvõetud dokumentide liigitamiseks ja vastutavale isikule mõeldud kokkuvõtte loomiseks.
cip-5.5-mm sobib ülesannete jaoks, mis nõuavad teabevaheliste seoste mõistmist ja kogu töö järjepidevuse säilitamist. Arenduses vaadatakse läbi nõuete, kavandamise, teostuse ja testimise seosed ning dokumentide analüüsis sünteesitakse mitme materjali väited ja tõendid, erinevused ja vastuolud.
- Keerukate funktsioonide teostamine: koodi, testide ja dokumentide üheaegne muutmine, arvestades mitme mooduli lepinguid ja käitumist.
- Suuremahuline koodianalüüs: väljakutsete seoste, andmevoo ja muudatuste mõju ulatuse läbivaatamine.
- Tõrgete põhjuste analüüs: logide, seadistuste, koodi ja käivitustulemuste võrdlemine, et koostada põhjuste hüpoteesid ja kontrolliprotseduurid.
- Kavandamise ja otsustamise tugi: nõuete ja piirangute struktureerimine ning rakendusvariantide mõju analüüsimine.
- Mitme dokumendi koondanalüüs: aruannete ja tehniliste dokumentide sarnasuste, erinevuste ja vastuolude tõenduspõhine korrastamine.
- Multimodaalne koondülevaatus: teksti ja visuaalse materjali ühine tõlgendamine probleemide ja nõuete analüüsimiseks.
- Mitmeastmeline agent: kasutamine töödes, mis hõlmavad uurimist, planeerimist, tööriistade käivitamist ja tulemuste läbivaatamist.
- Erialadokumentide koostamine: keerukaid tingimusi ja tõendeid arvestavate tehniliste aruannete, kavandite ja üksikasjalike ülevaatedokumentide kirjutamine.
Näiteks kasutatakse seda eri teenustes tekkinud vigade seotud koodide ja logide koos läbivaatamiseks või tööülesannetes, mis hõlmavad liitfunktsiooni nõuete analüüsi, rakendamist ja valideerimistulemuste ülevaatamist.
cip-5.5-sm
cip-5.5-sm teostab servaserverites ja kohapealsetes keskkondades lokaalset järeldamist ning tööülesannete automatiseerimist. Kuna mudeli suurust saab kohandada vahemikus 24B–40B, saab konfiguratsiooni valida vastavalt juurutusseadmete arvutusressurssidele ja kohapealsetele jõudlusnõuetele. Kuna andmeid töödeldakse nende tekkekohale lähedal, kasutatakse seda kohapealsete süsteemidega integreerimiseks ja ettevõttesiseste andmete kasutamiseks. Kui vajalikud mudelid ja tööriistad konfigureeritakse lokaalselt, saab seda kasutada ka keskkondades, kus välisühendused on piiratud.
See tõlgendab kohapeal tekkivat teavet ja seob selle töötlemisprotseduuridega. See liigitab logisid ja päringuid, eraldab andmetest vajaliku teabe ning täidab ühendatud ettevõttesiseste tööriistade ja skriptide abil korduvaid tööülesandeid.
- Kohapealsete sündmuste töötlemine: liigitab seadmelogisid ja olekuteavet ning valib välja sündmused, mis vajavad kontrollimist.
- Andmete eeltöötlus: eraldab tööülesannete kirjetest põhielemendid ning liigitab, märgendab ja normaliseerib need.
- Päringute suunamine: edastab saabunud päringud vastutavale süsteemile või töötlemisprotseduurile.
- Lokaalne tööagent: täidab korduvaid ülesandeid, pärides ettevõttesisestest süsteemidest andmeid ja käivitades skripte.
- Kohapealsete tööülesannete tugi: vastab ettevõttesisestel materjalidel põhinevatele küsimustele ja korrastab töö sisu.
- Järelanalüüsi tugi: valib välja materjalid, mis vajavad täiendavat läbivaatamist, ja võtab kokku põhisisu.
Näiteks kasutatakse seda töövoos, kus tegevuskoha serveris liigitatakse töölogid, päritakse seotud ajalugu ning koostatakse vastutavale töötajale juhtumi kokkuvõte.
Cosa
Cosa on kõnetoodete perekond, mis teisendab teksti kõneks, tuvastab sisendkõne tekstina ning võimaldab soovitud hääle registreerida ja taaskasutada. Seda kasutatakse teenuse juhendamisel, sisu loomisel, juurdepääsetavuse toetamisel ja vestlusagentide kõneliidestes.
Kõne genereerimise eest vastutavad cosa-a ja cosa-b ning kõnetuvastuse eest cosa-asr. cosa-a ja cosa-b on eraldi mudelid, mis pakuvad kumbki oma hääleloendit ja sünteesiseadeid ning mille vahel saab valida sama teenuseliidese kaudu. Mõlema mudeli ühised funktsioonid on järgmised.
- Tekst kõneks: sünteesib sisestatud laused valitud häälega.
- Hääle kloonimine: registreerib hääle kasutusõigusega referentssalvestise põhjal ja sünteesib uusi lauseid.
- Hääle kujundamine: loob ja registreerib hääle, kirjeldades soovitud hääle omadusi.
- Hääle taaskasutamine: kasutab registreeritud häält järgnevaks sünteesiks.
- Sünteesi seaded: reguleerib kõnelemiskiirust, keelt ja muid seadeid.
- Voogedastus: sünteesib teksti saabumise järel fraaside kaupa ja edastab heli järjestikku.
- Taasesituse juhtimine: toetab peatamist, jätkamist, katkestamist ja täiendavate lausete sisestamist.
Järk-järgulise tekstisisestuse abil saab hääle taasesitust alustada enne kogu vastuse valmimist. CIP-i vastuse koostamise ajal saab konfigureerida teenuse, milles Cosa loeb ette valmis fraasid.
cosa-a
cosa-a toetab teksti kõneks teisendamist, hääle kloonimist, hääle kujundamist ja voogedastust. Lisaks põhifunktsioonidele, nagu hääle, keele ja kõnelemiskiiruse valimine, pakub see täiendavaid juhtimisvõimalusi, sealhulgas sünteesietappide arvu, juhendamise tugevuse ja genereerimise pikkusega seotud seadeid. Seda kasutatakse hääle loomisel seadete kohandamiseks ja tulemuste ülevaatamiseks või sama teksti mitme seadistusega töötlemiseks ning sobiva tulemuse valimiseks.
- Sünteesib rakenduste, kioskite ja ärisüsteemide juhiseid ning teavitusi.
- Loob õppematerjalidest ja kasutusjuhenditest heliversioonid.
- Loob videote ja helisisu narratsiooni.
- Loob registreeritud häälega korduvkasutatavat sisu.
- Kasutab interaktiivsete agentide voogedastatava hääleväljundi jaoks.
- Kasutab hääleloomes, kus kohandatakse üksikasjalikke sünteesiseadeid.
cosa-b
cosa-b toetab eelseadistatud hääle valimist, kirjeldusepõhist hääle kujundamist, referentshäälel põhinevat kloonimist ja voogedastust. Hääle saab valida enda hääleloendist või registreerida teenuses kasutamiseks uue hääle.
Hääle kloonimiseks kasutatakse referentssalvestist ja sellele vastavat teksti. Toetatud on ka töövoog, kus registreerimise ajal luuakse referentstekst kõnetuvastuse abil; registreeritud häält kasutatakse järgnevaks sünteesiks.
- Kujundab teenuste ja tegelaste häälepersona.
- Loob kirjelduse või referentssalvestise põhjal kohandatud hääle.
- Sünteesib brändijuhiseid, tegelaste dialoogi ja sisunarratsiooni.
- Kasutab interaktiivsete agentide häälvastuste jaoks.
- Sünteesib sama häälega muutuvaid teateid ja tekste.
Kui valite cosa-a ja cosa-b vahel, lähtuge soovitud häälest, tegelikust sünteesitulemusest ja vajalikest juhtimisparameetritest.
| Üksus | cosa-a | cosa-b |
|---|---|---|
| Sünteesi seaded | Lisaks häälele, keelele ja kõnelemiskiirusele ka sünteesietappide arvu, juhise tugevuse ja genereerimise pikkusega seotud seaded | Ühised seaded, nagu kõnelemiskiirus ja keel |
| Kloonimise sisend | Kasutusõigusega referentssalvestis | Referentssalvestis ja sellele vastav tekst. Registreerimise käigus saab referentsteksti luua kõnetuvastuse abil |
| Roll | Hääle genereerimine üksikasjalike sünteesi juhtimisvõimalustega | Hääle valimine ja kohandatud hääle genereerimine |
cosa-asr
cosa-asr teisendab sisendheli tekstiks. See dokumenteerib salvestisi või teisendab häälega edastatud päringud sisendiks, mida järgnevad töötlussüsteemid saavad käsitleda.
- Transkribeerib häälmärkmeid ja salvestisi.
- Teisendab häälepõhised küsimused ja töötaotlused sisendiks.
- Genereerib hääle kloonimiseks referentsteksti.
- Kasutatakse transkriptsioonile järgnevas kokkuvõtete tegemise, liigitamise ja otsingu töötluses.
Kui edastate transkriptsioonitulemuse CIP-ile, saab jätkata sisu kokkuvõtmise, taotluste liigitamise ja tööülesannete kavandite koostamisega. Kui töötlemistulemus sünteesida cosa-a või cosa-b abil, saab luua tööteenuse, millel on nii häälsisend kui ka -väljund.
Cova
cova-1 on LLM-il põhinev ainult visuaalse OCR-i mudel. See tuvastab dokumentidest ja piltidelt teksti, eraldab paigutuse ja tabelistruktuuri ning pakub visuaalsete elementide kohta lühikirjeldusi.
See teisendab inimesele mõeldud dokumendid vormingusse, mida agendid ja töösüsteemid saavad hõlpsasti kasutada. Põhitekst ja tabelid eraldatakse struktureeritud sisuna ning dokumentides sisalduvad pildid edastatakse lühikirjeldustena, mistõttu saavad järgnevad agendid mõista nii dokumendi sisu kui ka visuaalset konteksti. Kui kujundate töövoo, kus materjaliga tutvutakse esmalt eraldatud teksti ja kirjelduste abil ning üksikasjalikku kontrolli vajavaid originaale vaadatakse täiendavalt üle, saab vähendada originaalpiltide korduva sisestamise vajadust ja säästa kontekstitokeneid.
| Funktsioon | Kirjeldus |
|---|---|
| Teksti tuvastamine | Ekstraheerib skannitud või pildistatud dokumentidest teksti. |
| Paigutuse tõlgendamine | Jaotab sisu plokkideks, võttes arvesse dokumendi paigutust. |
| Asukohateabe esitamine | Esitab tuvastatud plokkide asukohad, et siduda ekstraheeritud tulemused algdokumendiga. |
| Tabelistruktuuri ekstraheerimine | Struktureerib tabelite sisu, et seda kasutada otsingus ja andmetöötluses. |
| Lihtne pildikirjeldus | Kirjeldab lühidalt pildi ja visuaalsete elementide sisu, andes agendile vihjeid tõlgendamiseks. |
| Konteksti tõhustamine | Edastab teabe peamiselt teksti, struktuuri ja pildikirjelduse kaudu, vähendades vajadust algset pilti korduvalt sisestada. |
| Valikuline üksikasjalik analüüs | Aitab agendil otsustada, milliseid algpilte on vaja täiendavalt kontrollida. |
| Dokumendivormingu teisendamine | Korrastab tuvastatud tulemused HTML- või Markdown-vormingusse. |
- Dokumentide digiteerimine: teisendab paberdokumendid ja skannitud materjalid tekstipõhisteks materjalideks.
- Tööalaste dokumentide vastuvõtt: ekstraheerib sisu taotlustest, tõendavatest materjalidest ja aruannetest.
- Tabeliandmete töötlemine: kasutab dokumentides sisalduvaid tabeleid järgnevaks andmetöötluseks.
- Teadmiste otsingu eeltöötlus: teisendab dokumendipildid ja visuaalsed materjalid otsitavaks tekstiks ja struktuuriks.
- Dokumentide läbivaatamise automatiseerimine: edastab ekstraheeritud tulemused CIP-ile, et kontrollida punkte, koostada kokkuvõtteid ja võrrelda materjale.
- Agendi sisendi optimeerimine: korrastab pikkade dokumentide põhiteksti, tabelid ja pildikirjeldused, et edastada ainult vajalik teave.
Näiteks ekstraheerib see aruande põhiteksti ja tabelid ning kirjeldab lisatud graafikut graafikuna, mis näitab kvartaalset müügitulu trendi. Agent mõistab selle kirjelduse abil graafiku olemasolu ja otstarvet ning vaatab algmaterjali täiendavalt läbi, kui on vaja täpseid arvandmeid või trende.
Tootevaliku ühendamine
Tooteid ühendades saab koostada järgmise töövoo.
- Dokumendipõhine töö: Cova ekstraheerib põhiteksti, tabelid ja pildikirjeldused, CIP kontrollib valikuliselt vajalikku algmaterjali ning teostab analüüsi ja töötluse ning Cosa edastab tulemused kõne vormis.
- Kõnepõhine töö: Cosa ASR teisendab kõnepäringu tekstiks ning cosa-a või cosa-b loeb ette CIP-i töödeldud vastuse.
- Kohapealne automatiseerimine: cip-5.5-sm klassifitseerib kohapealseid andmeid ja teostab kohalikke toiminguid ning edastab täiendavat koondanalüüsi vajavad materjalid mudelile cip-5.5-im või cip-5.5-mm.
Lüüsis lubatud kutsungid
Lüüsi paketid määravad iga mudeli puhul lubatud päringud. Allolev tabel näitab LLM_FREE-, TTS_FREE- ja STT_FREE-pakettidega avatud ulatust ning need paketid rakenduvad automaatselt ilma taotluseta. See ei sisalda mudeleid, mis on avatud muude marsruutide kaudu.
| Mudeli ID | Lubatud päringud | Aluspakett |
|---|---|---|
| cip-5.5-im | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cip-5.5-im-chat | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cip-5.5-mm | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cip-5.5-mm-h | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cosa-a | audio.speech · audio.speech.clone · voices · voices.design | TTS_FREE |
| cosa-b | audio.speech · audio.speech.clone · voices · voices.design | TTS_FREE |
| cosa-tts | audio.speech · audio.speech.clone · voices · voices.design | TTS_FREE |
| cosa-asr | audio.transcriptions | STT_FREE |
| ivy-4-embedding | embeddings | LLM_FREE |
| ivy-4-embedding-mm | embeddings | LLM_FREE |
| ivy-4-mm | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
cip-5.5-sm ja cova-1 ei ole selles plaanitabelis. Tabelis olevad cip-5.5-im-chat, cip-5.5-mm-h, cosa-tts, ivy-4-embedding, ivy-4-embedding-mm ja ivy-4-mm on mudeli ID-d, mida eespool toodud tootekirjeldused ei sisalda. Selle, millisele teele kutsumisvõti vastab, leiate dokumendist API 호출하기.
