API कॉल करना

CLEVI गेटवे के कॉल पथ OpenAI-संगत विनिर्देश और Anthropic-संगत विनिर्देश में विभाजित हैं।
दोनों विनिर्देश एक ही API कुंजी का उपयोग करते हैं, और संवादात्मक रीजनिंग मॉडल को किसी भी विनिर्देश के माध्यम से कॉल किया जा सकता है।
एम्बेडिंग और ऑडियो·वॉइस पथ केवल OpenAI-संगत विनिर्देश में उपलब्ध हैं,
जबकि Anthropic-संगत विनिर्देश messages, count_tokens, models तीन पथ प्रदान करता है।

स्ट्रीमिंग अनुरोध बॉडी के stream से सक्षम की जाती है, और एम्बेडिंग तथा कुछ मॉडल·पथ इसका समर्थन नहीं करते। ऑडियो·वॉइस पथ ऑडियो को उसी रूप में लौटाने और आउटपुट को CleviDrive में 3 दिनों तक संग्रहीत करने जैसे, सामान्य रीजनिंग से अलग नियमों का पालन करते हैं।

मॉडल ID और प्रत्येक मॉडल के लिए अनुमत कॉल मॉडल पृष्ठ पर हैं, जबकि प्रमाणीकरण हेडर और base URL API कुंजी से प्रमाणित करना पृष्ठ पर हैं।

पथ चुनना

आप जो करना चाहते हैं और जिस SDK का उपयोग कर रहे हैं, उसके अनुसार पथ चुनें। तालिका में दिए गए पथ प्रत्येक विनिर्देश के base URL के बाद आने वाले सापेक्ष पथ हैं।

OpenAI-संगत पथ

OpenAI-संगत विनिर्देश का base URL https://platform.clevi.net/api/v2/aiservice/openai/v1 है। अनुरोध और प्रतिक्रिया बॉडी OpenAI विनिर्देश का पालन करती हैं। नीचे दी गई तालिका रीजनिंग और मॉडल पथों को होस्ट-आधारित पूर्ण पथों के रूप में दर्शाती है, जबकि ऑडियो·वॉइस पथों को आगे दिए गए ऑडियो और वॉइस पथ अनुभाग में व्यवस्थित किया गया है।

chat/completions को कॉल करने का न्यूनतम उदाहरण है। sk-... के स्थान पर API कुंजी स्क्रीन से जारी की गई कुंजी और model में मॉडल पेज की ID डालें।

curl https://platform.clevi.net/api/v2/aiservice/openai/v1/chat/completions \
  -H "X-API-Key: sk-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cip-5.5-im",
    "messages": [{"role": "user", "content": "안녕하세요"}]
  }'

अन्य पथ

निम्नलिखित पथ निदान, लेगेसी संगतता और रिले के लिए हैं।

अनुरोध और प्रतिक्रिया के सभी फ़ील्ड OpenAPI 3.0 दस्तावेज़ https://platform.clevi.net/api/v2/console/openapi/cloud-inference-v1 में देखे जा सकते हैं। पथों की सूची इसी दस्तावेज़ से तैयार की जाती है, और दस्तावेज़ केवल कंसोल में लॉग इन किए गए सत्र के माध्यम से खोला जा सकता है। इसी दस्तावेज़ का उपयोग करके क्लाइंट बनाया जा सकता है।

Anthropic संगत पथ

Anthropic संगत विनिर्देश का base URL https://platform.clevi.net/api/v2/aiservice/anthropic है, और Anthropic SDK अनुरोध पथ में /v1 को सीधे जोड़ता है। अनुरोध और प्रतिक्रिया का मुख्य भाग Anthropic Messages विनिर्देश का पालन करता है।

messages को कॉल करने का न्यूनतम उदाहरण है।

curl https://platform.clevi.net/api/v2/aiservice/anthropic/v1/messages \
  -H "X-API-Key: sk-..." \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cip-5.5-im",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "안녕하세요"}]
  }'

यदि anthropic-version हेडर को छोड़ दिया जाता है, तो इसे 2023-06-01 के रूप में माना जाता है। गेटवे anthropic-version और anthropic-beta हेडर को यथावत आगे भेजता है।

स्ट्रीमिंग (SSE)

यदि अनुरोध के मुख्य भाग में stream को true पर सेट किया जाता है, तो सर्वर Server-Sent Events के माध्यम से प्रतिक्रिया देता है। समर्थन उपलब्ध है या नहीं, यह पथ और मॉडल के अनुसार निम्न प्रकार अलग-अलग होता है।

पहले चंक के साथ निम्नलिखित तीन हेडर भेजे जाते हैं। इसके बाद प्रत्येक चंक के लिए data: पंक्ति भेजी जाती है और तुरंत flush किया जाता है; यदि अपस्ट्रीम ने इवेंट का नाम दिया हो, तभी event: पंक्ति भी साथ भेजी जाती है।

• Content-Type: text/event-stream
• Cache-Control: no-cache
• X-Accel-Buffering: no

Anthropic संगत पथ के चंक्स में event पंक्ति और data पंक्ति एक जोड़ी में होती हैं।

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"text_delta","text":"안"}}

chat/completions के चंक्स data पंक्तियों के रूप में आते हैं और अंत में data: [DONE] को यथावत आगे भेजा जाता है।

data: {"id":"chatcmpl-...","object":"chat.completion.chunk","choices":[...]}

data: [DONE]

स्ट्रीमिंग के दौरान कोई त्रुटि होने पर, सामान्य कॉल की तरह, त्रुटि JSON को data: की एक पंक्ति के रूप में भेजा जाता है और HTTP स्थिति कोड भी बदल जाता है।

ऑडियो और वॉइस पथ

TTS·STT और Cosa वॉइस प्रबंधन पथ OpenAI संगत विनिर्देश में हैं और इन पर सामान्य अनुमान से अलग कुछ नियम लागू होते हैं। कौन-सा मॉडल किस पथ की अनुमति देता है, यह मॉडल पृष्ठ की Cosa तालिका में देखें।

निम्नलिखित नियम केवल आवाज़ और वॉइस पथों पर लागू होते हैं।