API çağırmaq

CLEVI Gateway-in çağırış yolları OpenAI uyğunluğu və Anthropic uyğunluğu standartlarına bölünür.
Hər iki standart eyni API açarından istifadə edir və dialoq əsaslı inferensiya modelləri hər iki standart vasitəsilə çağırıla bilər.
Embedding və audio·səs yolları yalnız OpenAI uyğunluğu standartında mövcuddur,
Anthropic uyğunluğu standartı isə messages, count_tokens, models olmaqla üç yol təqdim edir.

Axın rejimi sorğu mətnindəki stream parametri ilə aktivləşdirilir və embedding, eləcə də bəzi modellər və yollar tərəfindən dəstəklənmir. Audio·səs yolları audionu olduğu kimi qaytarır və nəticələri 3 gün ərzində CleviDrive-da saxlayır; buna görə də onlar ümumi inferensiyadan fərqli qaydalara tabedir.

Model ID-ləri və hər model üçün icazə verilən çağırışlar model səhifəsində, autentifikasiya başlıqları və base URL isə API açarı ilə autentifikasiya səhifəsində yerləşir.

Yol seçimi

Görmək istədiyiniz işə və istifadə etdiyiniz SDK-ya əsasən yol seçin. Cədvəldəki yollar hər standartın base URL-indən sonra gələn nisbi yollardır.

OpenAI uyğunluğu yolu

OpenAI uyğunluğu standartının base URL-i https://platform.clevi.net/api/v2/aiservice/openai/v1 ünvanıdır. Sorğu və cavab mətnləri OpenAI standartına uyğundur. Aşağıdakı cədvəldə inferensiya və model yolları host əsaslı tam yollar kimi göstərilir; audio·səs yolları isə sonrakı Audio və səs yolları bölməsində izah edilir.

chat/completions çağırışı üçün minimal nümunədir. sk-... yerinə API açarları ekranından verilən açarı, model sahəsinə isə model səhifəsindəki ID-ni daxil edin.

curl https://platform.clevi.net/api/v2/aiservice/openai/v1/chat/completions \
  -H "X-API-Key: sk-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cip-5.5-im",
    "messages": [{"role": "user", "content": "안녕하세요"}]
  }'

Digər yollar

Aşağıdakı yollar diaqnostika, köhnə versiyalarla uyğunluq və ötürmə məqsədləri üçün istifadə olunur.

Sorğu və cavab sahələrinin hamısını OpenAPI 3.0 sənədində https://platform.clevi.net/api/v2/console/openapi/cloud-inference-v1 yoxlaya bilərsiniz. Marşrut siyahısı bu sənəddən yaradılır və sənəd yalnız konsola daxil olmuş sessiya ilə açılır. Eyni sənəddən klient yarada bilərsiniz.

Anthropic uyğun marşrutları

Anthropic uyğun spesifikasiyasının base URL-i https://platform.clevi.net/api/v2/aiservice/anthropic ünvanıdır və Anthropic SDK sorğu yoluna /v1-i birbaşa əlavə edir. Sorğu və cavab məzmunu Anthropic Messages spesifikasiyasına uyğundur.

messages çağırışı üçün minimal nümunədir.

curl https://platform.clevi.net/api/v2/aiservice/anthropic/v1/messages \
  -H "X-API-Key: sk-..." \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cip-5.5-im",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "안녕하세요"}]
  }'

anthropic-version başlığını buraxsanız, 2023-06-01 kimi emal edilir. Gateway anthropic-version və anthropic-beta başlıqlarını olduğu kimi ötürür.

Axın (SSE)

Sorğunun mətnində stream parametrini true olaraq təyin etsəniz, server Server-Sent Events vasitəsilə cavab verir. Dəstək marşruta və modelə görə aşağıdakı kimi fərqlənir.

İlk hissə ilə birlikdə aşağıdakı üç başlıq göndərilir. Bundan sonra hər hissə ilə data: sətri göndərilir və dərhal flush edilir; upstream hadisə adı təqdim etdikdə isə yalnız həmin halda event: sətri də göndərilir.

• Content-Type: text/event-stream
• Cache-Control: no-cache
• X-Accel-Buffering: no

Anthropic uyğun marşrutun hissələri event sətri ilə data sətrinin cütündən ibarətdir.

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"text_delta","text":"안"}}

chat/completions hissələri data sətri kimi gəlir və sonda data: [DONE] olduğu kimi ötürülür.

data: {"id":"chatcmpl-...","object":"chat.completion.chunk","choices":[...]}

data: [DONE]

Axın zamanı xəta baş verərsə, adi çağırışdakı kimi xəta JSON-u data: sətri ilə ötürülür və HTTP status kodu da dəyişir.

Səs və voice marşrutları

TTS·STT və Cosa voice idarəetmə marşrutları OpenAI uyğun spesifikasiyasına əsaslanır və ümumi inferensiyadan fərqli bir neçə qayda tətbiq edilir. Hansı modelin hansı marşruta icazə verdiyini model səhifəsindəki Cosa cədvəlindən yoxlayın.

Aşağıdakı qaydalar yalnız nitq və səs yollarına tətbiq olunur.