Developer guide
Model
Crynodeb o’r modelau
Mae modelau CLEVI wedi’u rhannu’n dair cyfres o gynhyrchion: CIP, sy’n gyfrifol am ddeallusrwydd cyffredinol ac awtomeiddio gwaith; Cosa, sy’n gyfrifol am gynhyrchu ac adnabod llais; a Cova, sy’n gyfrifol am echdynnu gwybodaeth o ddogfennau a delweddau. Gellir defnyddio pob cynnyrch yn annibynnol neu eu cysylltu’n wasanaeth sy’n arwain o adnabod dogfennau a dadansoddi i gyflawni gwaith a chyfarwyddyd llais.
| Cynnyrch | ID model | Prif fanylebau | Prif rôl |
|---|---|---|---|
| CIP-5.5-SM | cip-5.5-sm | 24B~40B y gellir ei fireinio | Awtomeiddio gwaith ar weinyddion ymylol ac yn lleol |
| CIP-5.5-IM | cip-5.5-im | 360B · Mewnbwn 256K · Allbwn 64K · Amlfoddol | Prosesu gwaith cyffredinol. Blaenoriaethu cyflymder ymateb a thrwybwn |
| CIP-5.5-MM | cip-5.5-mm | 800B · Mewnbwn 512K · Allbwn 64K · Amlfoddol | Dadansoddi cyd-destun hir a datrys problemau cymhleth |
| Cosa-A | cosa-a | Synthesis, clonio, dylunio a ffrydio llais | Cynhyrchu llais gan ddefnyddio rheolaeth fanwl dros synthesis |
| Cosa-B | cosa-b | Synthesis, clonio, dylunio a ffrydio llais | Dewis llais a chynhyrchu llais wedi’i addasu |
| Cosa ASR | cosa-asr | Adnabod llais | Trosi mewnbwn llais yn destun |
| Cova | cova-1 | OCR gweledol pwrpasol wedi’i seilio ar LLM | Echdynnu testun, cynlluniau a thablau, ynghyd â disgrifiadau delwedd syml |
CIP
Mae CIP yn gyfrifol am ddeallusrwydd cyffredinol ac awtomeiddio gwaith. Mae’n cynnwys cip-5.5-im a cip-5.5-mm, a elwir drwy’r porth, yn ogystal â cip-5.5-sm, a ddefnyddir ar weinyddion ymylol ac a ddefnyddir ar safleoedd.
cip-5.5-im a cip-5.5-mm
| Eitem | cip-5.5-im | cip-5.5-mm |
|---|---|---|
| Maint | 360B | 800B |
| Terfyn mewnbwn | 256K | 512K |
| Allbwn mwyaf | 64K | 64K |
| Fformat mewnbwn | Testun a deunydd gweledol (dogfennau, delweddau sgrin, tablau a siartiau) | Testun a deunydd gweledol (adolygu drwy gyfuno cod, dogfennau a deunydd sgrin) |
| Cyfeiriadedd dylunio | Prosesu gwaith gwybodaeth a thasgau datblygu bob dydd, gan ganolbwyntio ar gyflymder ymateb, effeithlonrwydd cost a thrwybwn. | Prosesu gwaith cymhleth sy’n cyfuno ac yn dadansoddi sawl ffynhonnell a chyflwr, ac yn cysylltu canlyniadau’r dadansoddiad â gwaith ymarferol. |
| Defnydd mewnbwn hir | Adolygu sawl dogfen, ffeil cod a hanes sgwrs gyda’i gilydd. | Ymdrin â llawer iawn o ddeunydd cyfeirio a hanes gwaith gyda’i gilydd, a chyflawni gwaith asiant lle mae ymchwilio, gweithredu a dilysu’n digwydd dros sawl cam. |
Mae cip-5.5-im yn addas ar gyfer tasgau â nodau a chwmpas gwaith clir. Mae enghreifftiau nodweddiadol yn cynnwys tynnu’r wybodaeth angenrheidiol o’r deunyddiau a ddarperir, llunio allbynnau yn y fformat penodedig, a newid cod yn unol â’r gofynion. Mae’r allbwn o hyd at 64K yn addas ar gyfer llunio adroddiadau manwl neu allbynnau sy’n cynnwys sawl rhan.
- Cymorth datblygu: Ysgrifennu swyddogaethau a nodweddion, trwsio bygiau â chwmpas clir, a gweithredu yn unol â phatrymau presennol.
- Creu profion: Llunio drafftiau o brofion ac achosion dilysu ar sail y gofynion a’r gweithrediad.
- Prosesu dogfennau: Ymdrin â chrynhoi, dosbarthu, tynnu eitemau, trosi fformatau a llunio drafftiau.
- Dadansoddi amlfoddol: Adolygu delweddau sgrin a thablau a siartiau mewn dogfennau, ynghyd â’r disgrifiadau perthnasol.
- Cymorth rhyngweithiol i waith: Ateb cwestiynau ar sail deunyddiau gwaith a llunio’r allbynnau angenrheidiol.
- Prosesu ar raddfa fawr: Crynodebau unigol o nifer o ddogfennau, dosbarthu ceisiadau, a throsi data.
- Is-asiant: Ymdrin ag is-dasgau â ffiniau clir, fel archwilio cod, adolygu ffeil benodol, a threfnu deunyddiau.
Er enghraifft, defnyddir ef i dderbyn gofynion nodweddion a chod cysylltiedig, ac yna llunio cynnig ar gyfer newidiadau, profion a disgrifiad o’r newidiadau, neu i ddosbarthu dogfennau a gyflwynwyd a chreu crynodebau ar gyfer y sawl sy’n gyfrifol.
Mae cip-5.5-mm yn addas ar gyfer tasgau sy’n gofyn am ddeall y berthynas rhwng gwybodaeth a chynnal cysondeb y gwaith cyfan. Ym maes datblygu, mae’n adolygu’r cysylltiadau rhwng gofynion, dylunio, gweithredu a phrofi, ac wrth ddadansoddi dogfennau, mae’n cyfuno honiadau a thystiolaeth, yn ogystal â gwahaniaethau a gwrthddywediadau, ar draws sawl deunydd.
- Gweithredu nodweddion cymhleth: Newid cod, profion a dogfennaeth gyda’i gilydd, gan ystyried contractau ac ymddygiad sawl modiwl.
- Dadansoddi cod ar raddfa fawr: Adolygu perthnasoedd galwadau, llif data a chwmpas effaith newidiadau.
- Dadansoddi achos methiant: Cymharu logiau, gosodiadau, cod a chanlyniadau gweithredu i drefnu rhagdybiaethau am yr achos a gweithdrefnau cadarnhau.
- Cymorth i ddylunio a gwneud penderfyniadau: Strwythuro gofynion a chyfyngiadau, a dadansoddi effaith dewisiadau gweithredu.
- Dadansoddi syntheseiddiol o sawl dogfen: Trefnu tebygrwydd, gwahaniaethau a gwrthddywediadau mewn adroddiadau a dogfennau technegol ar sail tystiolaeth.
- Adolygiad integredig amlfoddol: Dehongli testun a deunyddiau gweledol gyda’i gilydd i ddadansoddi problemau a gofynion.
- Asiant aml-gam: Defnyddir ar gyfer gwaith sy’n cynnwys ymchwilio, cynllunio, gweithredu offer ac adolygu canlyniadau.
- Ysgrifennu dogfennau arbenigol: Llunio adroddiadau technegol, cynigion dylunio a dogfennau adolygu manwl sy’n adlewyrchu amodau cymhleth a’r dystiolaeth.
Er enghraifft, fe’i defnyddir i adolygu codau perthnasol a logiau o wallau a ddigwyddodd mewn gwasanaethau lluosog gyda’i gilydd, neu i ymdrin â thasgau sy’n ymestyn o ddadansoddi gofynion nodwedd gymhleth i’w gweithredu ac adolygu canlyniadau’r dilysu.
cip-5.5-sm
Mae cip-5.5-sm yn cyflawni inference lleol ac awtomeiddio tasgau mewn gweinyddwyr ymyl ac amgylcheddau ar y safle. Gan y gellir addasu maint y model o fewn yr ystod 24B~40B, gellir dewis cyfluniad sy’n cyd-fynd ag adnoddau cyfrifiadurol yr offeryn defnyddio a pherfformiad gofynnol y safle. Gan fod data’n cael ei brosesu’n agos at y man lle mae’n cael ei gynhyrchu, fe’i defnyddir ar gyfer integreiddio â systemau’r safle a defnyddio data mewnol. Drwy ffurfweddu’r modelau a’r offer angenrheidiol yn lleol, gellir ei weithredu hyd yn oed mewn amgylcheddau lle mae cysylltiadau allanol yn gyfyngedig.
Mae’n dehongli gwybodaeth sy’n codi ar y safle ac yn ei chysylltu â gweithdrefnau prosesu. Mae’n dosbarthu logiau a cheisiadau, yn echdynnu’r wybodaeth angenrheidiol o ddata, ac yn cyflawni gwaith ailadroddus gan ddefnyddio offer mewnol a sgriptiau cysylltiedig.
- Prosesu digwyddiadau ar y safle: Mae’n dosbarthu logiau offer a gwybodaeth am statws, ac yn dewis digwyddiadau sydd angen eu gwirio.
- Rhagbrosesu data: Mae’n echdynnu eitemau allweddol o gofnodion gwaith ac yn eu dosbarthu, tagio a normaleiddio.
- Llwybro ceisiadau: Mae’n trosglwyddo ceisiadau a dderbyniwyd i’r system gyfrifol neu’r weithdrefn brosesu briodol.
- Asiant tasgau lleol: Mae’n cyflawni gwaith ailadroddus drwy ymholi systemau mewnol a rhedeg sgriptiau.
- Cymorth tasgau ar y safle: Mae’n ateb cwestiynau ar sail deunyddiau mewnol ac yn trefnu cynnwys gwaith.
- Cymorth ar gyfer dadansoddiad dilynol: Mae’n dewis deunyddiau sydd angen adolygiad ychwanegol ac yn crynhoi’r prif gynnwys.
Er enghraifft, fe’i defnyddir mewn llif gwaith sy’n dosbarthu logiau gweithredu ar weinydd safle, yn edrych ar hanes perthnasol, ac yna’n llunio crynodeb o’r digwyddiad ar gyfer y person cyfrifol.
Cosa
Mae Cosa yn gyfres o gynhyrchion llais sy’n trosi testun yn lleferydd, yn adnabod llais mewnbwn fel testun, ac yn cofrestru ac ailddefnyddio’r llais dymunol. Fe’i defnyddir ar gyfer cyfarwyddiadau gwasanaeth, creu cynnwys, cymorth hygyrchedd, a rhyngwynebau llais ar gyfer asiantau rhyngweithiol.
Mae cosa-a a cosa-b yn gyfrifol am gynhyrchu llais, a cosa-asr am adnabod llais. Mae cosa-a a cosa-b yn fodelau ar wahân sy’n darparu eu rhestrau lleisiau a’u gosodiadau syntheseiddio eu hunain, a chânt eu dewis o fewn yr un rhyngwyneb gwasanaeth. Mae’r ddau fodel yn darparu’r swyddogaethau cyffredin canlynol.
- Testun i leferydd: syntheseiddio’r frawddeg a roddwyd gyda’r llais a ddewiswyd.
- Clonio llais: cofrestru llais gan ddefnyddio recordiad cyfeirio y mae gennych ganiatâd i’w ddefnyddio, a syntheseiddio brawddegau newydd.
- Dylunio llais: creu a chofrestru llais drwy ddisgrifio nodweddion y llais a ddymunir.
- Ailddefnyddio llais: defnyddio llais cofrestredig mewn synthesis dilynol.
- Gosodiadau synthesis: addasu cyflymder siarad ac iaith, ymhlith pethau eraill.
- Dosbarthu ffrydio: syntheseiddio fesul ymadrodd wrth i’r testun gyrraedd a dosbarthu’r sain yn olynol.
- Rheoli chwarae: cefnogi seibio, ailddechrau, stopio a mewnbynnu brawddegau ychwanegol.
Drwy ddefnyddio mewnbwn testun cynyddol, gallwch ddechrau chwarae’r llais cyn i’r ateb cyfan gael ei gwblhau. Tra bod CIP yn ysgrifennu’r ateb, gallwch ffurfweddu gwasanaeth lle mae Cosa yn darllen yr ymadroddion sydd wedi’u paratoi yn gyntaf.
cosa-a
Mae cosa-a yn cefnogi trosi testun i leferydd, clonio llais, dylunio llais ac allbwn ffrydio. Yn ogystal â’r swyddogaethau sylfaenol o ddewis llais, iaith a chyflymder siarad, mae’n darparu opsiynau rheoli ychwanegol, megis gosodiadau sy’n ymwneud â nifer y camau synthesis, cryfder y canllawiau a hyd y cynhyrchiad. Fe’i defnyddir i addasu gosodiadau ac adolygu’r canlyniad yn ystod y broses creu llais, neu i gymhwyso gosodiadau lluosog i’r un sgript a dewis y canlyniad gorau.
- Syntheseiddio cyfarwyddiadau a hysbysiadau ar gyfer apiau, ciosgau a systemau gwaith.
- Creu deunyddiau hyfforddi a llawlyfrau defnyddwyr ar ffurf sain.
- Cynhyrchu naratif ar gyfer cynnwys fideo a sain.
- Creu cynnwys cylchol gyda llais cofrestredig.
- Ei ddefnyddio ar gyfer allbwn llais ffrydio asiantau rhyngweithiol.
- Ei ddefnyddio ar gyfer creu llais sy’n addasu gosodiadau synthesis manwl.
cosa-b
Mae cosa-b yn cefnogi dewis lleisiau rhagosodedig, dylunio llais ar sail disgrifiad, clonio ar sail llais cyfeirio ac allbwn ffrydio. Gallwch ddewis llais o’ch rhestr eich hun o leisiau neu gofrestru llais newydd i’w ddefnyddio yn y gwasanaeth.
Mae clonio llais yn defnyddio recordiad cyfeirio a’r testun cyfatebol. Mae hefyd yn cefnogi llif gwaith lle mae testun cyfeirio yn cael ei gynhyrchu drwy adnabod lleferydd yn ystod y broses gofrestru, a gellir ailddefnyddio lleisiau cofrestredig mewn synthesis dilynol.
- Ffurfweddu persona llais gwasanaethau a chymeriadau.
- Creu llais wedi’i addasu drwy ddefnyddio disgrifiad neu recordiad cyfeirio.
- Syntheseiddio cyfarwyddiadau brand, deialog cymeriadau a naratif cynnwys.
- Ei ddefnyddio ar gyfer ymatebion llais asiantau rhyngweithiol.
- Syntheseiddio negeseuon cyfarwyddo a sgriptiau sy’n newid gan ddefnyddio’r un llais.
Wrth ddewis rhwng cosa-a a cosa-b, defnyddiwch y llais dymunol, canlyniad y synthesis go iawn, a’r eitemau rheoli sydd eu hangen fel meini prawf.
| Eitem | cosa-a | cosa-b |
|---|---|---|
| Gosodiadau synthesis | Yn ogystal â llais, iaith a chyflymder lleferydd, gosodiadau sy’n ymwneud â nifer y camau synthesis, cryfder arweiniad a hyd y cynhyrchiad | Gosodiadau cyffredin fel cyflymder lleferydd ac iaith |
| Mewnbwn clonio | Recordiad cyfeirio y mae gennych ganiatâd i’w ddefnyddio | Recordiad cyfeirio a thestun cyfatebol. Gellir cynhyrchu’r testun cyfeirio trwy adnabod lleferydd yn ystod y broses gofrestru |
| Rôl | Cynhyrchu llais gan ddefnyddio rheolaeth fanwl dros synthesis | Dewis llais a chynhyrchu llais wedi’i addasu |
cosa-asr
Mae cosa-asr yn trosi sain fewnbwn yn destun. Mae’n dogfennu recordiadau ac yn trosi ceisiadau a dderbynnir trwy lais yn fewnbwn y gall systemau gwaith dilynol ei brosesu.
- Trawsgrifio memos llais a recordiadau.
- Trosi cwestiynau a cheisiadau gwaith sy’n seiliedig ar lais yn fewnbwn.
- Cynhyrchu testun cyfeirio ar gyfer clonio llais.
- Ei ddefnyddio mewn prosesau sy’n arwain o drawsgrifio at grynhoi, categoreiddio a chwilio.
Pan fyddwch yn trosglwyddo canlyniadau trawsgrifio i CIP, gallwch symud ymlaen at grynhoi cynnwys, categoreiddio ceisiadau a pharatoi drafftiau gwaith. Trwy syntheseiddio canlyniadau’r prosesu gyda cosa-a neu cosa-b, gallwch greu gwasanaeth gwaith â mewnbwn ac allbwn llais.
Cova
Mae cova-1 yn fodel arbenigol OCR gweledol sy’n seiliedig ar LLM. Mae’n adnabod testun mewn dogfennau a delweddau, yn echdynnu cynlluniau a strwythurau tablau, ac yn darparu disgrifiadau byr o elfennau gweledol.
Mae’n trosi dogfennau fel y’u gwelir gan bobl i fformat sy’n haws i asiantau a systemau gwaith ei ddefnyddio. Mae’r prif destun a’r tablau’n cael eu hechdynnu fel cynnwys strwythuredig, tra bod y delweddau sydd wedi’u cynnwys yn y ddogfen yn cael eu cyflwyno fel disgrifiadau byr. Felly, gall asiantau dilynol ddeall cynnwys y ddogfen a’i chyd-destun gweledol gyda’i gilydd. Drwy lunio llif gwaith lle mae’r deunydd yn cael ei ddeall yn gyntaf gan ddefnyddio’r testun a’r disgrifiadau a echdynnwyd, a dim ond y gwreiddiol sydd angen ei wirio’n fanwl yn cael ei adolygu’n ychwanegol, gallwch leihau faint o weithiau y caiff y ddelwedd wreiddiol ei mewnbynnu ac arbed tocynnau cyd-destun.
| Swyddogaeth | Disgrifiad |
|---|---|
| Adnabod testun | Tynnu llythrennau o ddogfennau sydd wedi'u sganio neu eu tynnu mewn llun. |
| Dehongli cynllun | Rhannu cynnwys yn flociau gan ystyried cynllun y ddogfen. |
| Darparu gwybodaeth am leoliad | Darparu lleoliad y blociau a adnabyddwyd er mwyn cysylltu canlyniadau'r echdynnu â'r testun gwreiddiol. |
| Echdynnu strwythur tablau | Strwythuro cynnwys tablau i'w ddefnyddio ar gyfer chwilio a phrosesu data. |
| Disgrifiad delwedd syml | Disgrifio cynnwys delweddau ac elfennau gweledol yn fyr er mwyn rhoi cliwiau dehongli i'r asiant. |
| Optimeiddio cyd-destun | Trosglwyddo gwybodaeth gan ganolbwyntio ar ddisgrifiadau testun, strwythur a delweddau er mwyn lleihau'r angen i fewnbynnu'r ddelwedd wreiddiol dro ar ôl tro. |
| Dadansoddiad manwl detholus | Helpu'r asiant i benderfynu pa ddelweddau gwreiddiol y mae angen eu gwirio ymhellach. |
| Trosi fformat dogfennau | Trefnu canlyniadau'r adnabod yn HTML neu Markdown. |
- Digideiddio dogfennau: Trosi dogfennau papur a deunyddiau wedi'u sganio yn ddeunyddiau sy'n seiliedig ar destun.
- Derbyn dogfennau gwaith: Echdynnu cynnwys o ffurflenni cais, dogfennau tystiolaeth ac adroddiadau.
- Prosesu data tablau: Defnyddio tablau sydd wedi'u cynnwys mewn dogfennau ar gyfer prosesu data dilynol.
- Rhagbrosesu ar gyfer chwilio gwybodaeth: Trosi delweddau dogfennau a deunyddiau gweledol yn destun a strwythur y gellir chwilio drwyddynt.
- Awtomeiddio adolygu dogfennau: Trosglwyddo canlyniadau'r echdynnu i CIP i wirio eitemau, crynhoi a chymharu rhwng deunyddiau.
- Optimeiddio mewnbwn asiantau: Trefnu prif destun, tablau a disgrifiadau delweddau dogfennau hir er mwyn trosglwyddo'r wybodaeth angenrheidiol yn unig.
Er enghraifft, wrth echdynnu prif destun a thablau adroddiad, disgrifir graff wedi'i fewnosod fel graff sy'n dangos tuedd gwerthiannau fesul chwarter. Mae'r asiant yn defnyddio'r disgrifiad hwn i ddeall bod y graff yn bodoli a beth yw ei ddiben, ac yn adolygu'r gwreiddiol ymhellach pan fo angen union werthoedd neu duedd.
Cysylltu teuluoedd cynnyrch
Drwy gysylltu cynhyrchion, gallwch ffurfweddu'r llif canlynol.
- Gwaith sy'n seiliedig ar ddogfennau: Mae Cova yn echdynnu prif destun, tablau a disgrifiadau delweddau, mae CIP yn gwirio'r gwreiddiol angenrheidiol yn ddetholus i gyflawni dadansoddiad a phrosesu gwaith, ac mae Cosa yn cyflwyno'r canlyniadau drwy lais.
- Gwaith sy'n seiliedig ar lais: Mae Cosa ASR yn trosi ceisiadau llais yn destun, ac mae cosa-a neu cosa-b yn darllen yr ateb a broseswyd gan CIP.
- Awtomeiddio ar y safle: Mae cip-5.5-sm yn dosbarthu data ar y safle ac yn cyflawni gwaith lleol, ac yn trosglwyddo deunyddiau sydd angen dadansoddiad cynhwysfawr ychwanegol i cip-5.5-im neu cip-5.5-mm.
Galwadau a ganiateir yn y porth
Mae cynlluniau’r porth yn pennu’r galwadau a ganiateir ar gyfer pob model. Mae’r tabl isod yn dangos yr ystodau a agorir gan gynlluniau LLM_FREE, TTS_FREE a STT_FREE, ac mae’r cynlluniau hyn yn cael eu cymhwyso’n awtomatig heb wneud cais. Nid yw’n cynnwys modelau a agorir drwy lwybrau eraill.
| ID model | Galwadau a ganiateir | Cynllun sail |
|---|---|---|
| cip-5.5-im | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cip-5.5-im-chat | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cip-5.5-mm | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cip-5.5-mm-h | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
| cosa-a | audio.speech · audio.speech.clone · voices · voices.design | TTS_FREE |
| cosa-b | audio.speech · audio.speech.clone · voices · voices.design | TTS_FREE |
| cosa-tts | audio.speech · audio.speech.clone · voices · voices.design | TTS_FREE |
| cosa-asr | audio.transcriptions | STT_FREE |
| ivy-4-embedding | embeddings | LLM_FREE |
| ivy-4-embedding-mm | embeddings | LLM_FREE |
| ivy-4-mm | anthropic.messages · chat.completions · chat.completions.batch · completions · responses | LLM_FREE |
Nid yw cip-5.5-sm a cova-1 yn y tabl cynllun hwn. Mae cip-5.5-im-chat, cip-5.5-mm-h, cosa-tts, ivy-4-embedding, ivy-4-embedding-mm, ac ivy-4-mm yn IDau model nad ydynt wedi’u cynnwys yn y disgrifiadau cynnyrch uchod. Mae’r ddogfen API 호출하기 yn nodi pa lwybr y mae’r allwedd alwad yn cyfateb iddo.
