Bangkirina API

Rêyên bangkirinê yên derbasgeha CLEVI li gorî standarda hevahenga OpenAI û standarda hevahenga Anthropicê cuda dibin.
Her du standardan heman kilîta API-yê bikar tînin û modelên encamdana dîyalogê dikarin bi her du standardan werin bangkirin.
Rêyên embedding û dengê/voice tenê di standarda hevahenga OpenAI de hene,
standarda hevahenga Anthropicê sê rêyan dide: messages, count_tokens û models.

Streamkirin bi stream di navê daxwazê de tê çalak kirin û embedding û hin model û rê nayên piştgirî kirin. Rêyên dengê/voice rêgezên cuda ji encamdana giştî dişopînin, wekî vegerandina rasterast a audyoyê û parastina hilberan li CleviDriveê bo 3 rojan.

ID-yên modelan û bangkirinên destûrdar ji bo her modelê li ser rûpela modelê ne; sernavên pejirandinê û base URL li ser rûpela Pejirandina bi kilîta API-yê ne.

Hilbijartina rêyê

Li gorî tiştê ku hûn dixwazin bikin û SDK-ya ku hûn bikar tînin, rêyekê hilbijêrin. Rêyên di tabloyê de, rêyên nisbî ne ku li dû base URL-ya her standardê tên.

Rêya hevahenga OpenAI

Base URL-ya standarda hevahenga OpenAI https://platform.clevi.net/api/v2/aiservice/openai/v1 e. Naveroka daxwaz û bersivê li gorî standarda OpenAI ye. Tabloya jêrîn rêyên encamdana û modelê wekî rêyên tevahî li gorî hostê nîşan dide, û rêyên dengê/voice di beşa paşîn a Rêyên dengê û voice de hatine rêzkirin.

Ev mînaka herî kêm e ku chat/completions bang dike. Li şûna sk-... mifteya ku ji rûpela mifteya API-yê hatiye dayîn, û li modelê ID-ya rûpela modelê binivîsin.

curl https://platform.clevi.net/api/v2/aiservice/openai/v1/chat/completions \
  -H "X-API-Key: sk-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cip-5.5-im",
    "messages": [{"role": "user", "content": "안녕하세요"}]
  }'

Riyên din

Riyên jêrîn ji bo teşxîsê, lihevhatina bi pergala kevn û veguhastinê ne.

Hemû zeviyên daxwaz û bersivê dikarin di belgeya OpenAPI 3.0 https://platform.clevi.net/api/v2/console/openapi/cloud-inference-v1 de werin dîtin. Lîsteya rêçeyan di vê belgeyê de tê çêkirin, û belge tenê bi danişîna ku li konsolê hatiye daxilbûnê vedibe. Dikarin bi heman belgeyê xerîdarê çêbikin.

Rêçeya lihevhatî bi Anthropic

URL-a bingehîn a standarda lihevhatî bi Anthropic https://platform.clevi.net/api/v2/aiservice/anthropic e, û Anthropic SDK /v1 rasterast li rêçeya daxwazê zêde dike. Naveroka daxwaz û bersivê li gorî standarda Anthropic Messages e.

Mînakek herî kêm e ku messages gazî dike.

curl https://platform.clevi.net/api/v2/aiservice/anthropic/v1/messages \
  -H "X-API-Key: sk-..." \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cip-5.5-im",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "안녕하세요"}]
  }'

Ger hûn sernavê anthropic-version derbas nekin, ew wekî 2023-06-01 tê hesibandin. Gateway anthropic-version û anthropic-beta sernavan bê guhertin radigihîne.

Streaming (SSE)

Heke stream di navê daxwazê de li ser true were danîn, server bi Server-Sent Events bersivê dide. Piştgiriya wê li gorî rê û modelê wiha diguhere.

Bi yekemîn chunkê re van sê sernavan dişîne. Paşê di her chunkê de rêzeke data: dişîne û yekser flush dike; tenê dema ku upstream navê bûyerê dabîn bike, rêzeka event: jî bi hev re dişîne.

• Content-Type: text/event-stream
• Cache-Control: no-cache
• X-Accel-Buffering: no

Chunkên rêya Anthropic hevaheng ji rêzika event û rêzika data pêk tên.

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"text_delta","text":"안"}}

Chunkên chat/completions wekî rêzên data: tên, û di dawiyê de data: [DONE] bê guhertin tê ragihandin.

data: {"id":"chatcmpl-...","object":"chat.completion.chunk","choices":[...]}

data: [DONE]

Heke di dema streamingê de çewtiyek çêbibe, JSON-a çewtiyê ya wekî bangewaziya asayî di yek rêza data: de tê ragihandin û koda rewşa HTTP jî diguhere.

Rêyên deng û dengdanê

Rêyên rêvebirina dengên TTS·STT û Cosa di standarda OpenAI hevaheng de ne û hin rêgezên wan ji îstidlala asayî cuda ne. Ji bo dîtina ka kîjan model kîjan rê dihêle, li tabloya Cosa ya rûpela modelê binêre.

Rêzikên jêrîn tenê li ser rêyên audiyo û dengê tên sepandin.