LLM API त्वरित शुरुआत: OpenAI संगत एंडपॉइंट

प्रमाणीकरण और बेस URL

llm api प्रदाता सेवाओं का उपयोग शुरू करने के लिए, आपको एक API कुंजी की आवश्यकता है। केवल ईमेल और पासवर्ड के साथ API कुंजी प्राप्त करें पृष्ठ पर साइन इन करें। आपकी कुंजी तुरंत दिखाई देती है। ट्रायल क्रेडिट के लिए फ़ोन नंबर या क्रेडिट कार्ड की आवश्यकता नहीं है। अपनी कुंजी को सुरक्षित रखें; आप इसे किसी भी समय पुनर्जनित कर सकते हैं, जिससे पिछली कुंजी अमान्य हो जाती है।

अपने क्लाइंट को हमारे बेस URL की ओर इशारा करने के लिए कॉन्फ़िगर करें। यह सुनिश्चित करता है कि सभी अनुरोध हमारे बिना सेंसर मॉडल की ओर रूट किए जाएं। एंडपॉइंट संरचना मानक OpenAI चैट पूर्णता इंटरफ़ेस को दर्शाती है।

• बेस URL: https://api.comparellmapi.com/v1
• हेडर: Authorization: Bearer YOUR_API_KEY

यह सेटअप किसी भी OpenAI-संगत SDK के साथ काम करता है। आपको केवल बेस URL को समायोजित करने और अपनी कुंजी को इंजेक्ट करने की आवश्यकता है।

आपका पहला अनुरोध

कनेक्टिविटी परीक्षण करने के लिए एक सरल टेक्स्ट कंप्लीशन अनुरोध भेजें। यह पुष्टि करता है कि आपकी API कुंजी मान्य है और क्रेडिट उपलब्ध हैं। मॉडल ID uncensored का उपयोग करें ताकि अक्षरित मॉडल तक पहुँच सकें। एंडपॉइंट JSON बॉडी वाले POST अनुरोध स्वीकार करता है जिसमें संदेश होते हैं।

सुनिश्चित करें कि आपका अनुरोध बॉडी 8 MB से कम रहे। यदि आप इस सीमा से अधिक जाते हैं, तो सर्वर अनुरोध को अस्वीकार कर देगा। अधिकांश टेक्स्ट-आधारित एप्लिकेशन के लिए, एक अकेला टर्न या छोटी बातचीत इस प्रतिबंध के भीतर अच्छी तरह फिट बैठती है।

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

यदि सफल होता है, तो आपको जनरेटेड टेक्स्ट के साथ एक JSON प्रतिक्रिया मिलती है। यह पुष्टि करता है कि llm api मूल्य निर्धारण संरचना आपके उपयोग पर लागू होती है। प्रत्येक टोकन आपके प्रीपेड बैलेंस में योगदान देता है।

Python SDK एकीकरण

सबसे आसान एकीकरण के लिए आधिकारिक OpenAI Python लाइब्रेरी का उपयोग करें। पैकेज को pip के माध्यम से इंस्टॉल करें, फिर हमारे बेस URL के साथ क्लाइंट कॉन्फ़िगर करें। इससे आपको परिचित विधियों जैसे chat.completions.create() का उपयोग करने की अनुमति मिलती है।

मॉडल को uncensored पर सेट करें। अपने संदेशों को मानक प्रारूप में पास करें। SDK सीरियलाइज़ेशन और त्रुटि पार्सिंग को स्वचालित रूप से संभालता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

यह दृष्टिकोण बैकएंड सेवाओं या स्क्रिप्ट्स के लिए आदर्श है। लाइब्रेरी पुन: प्रयास और मूल त्रुटि हैंडलिंग प्रबंधित करती है। जनरेटेड पाठ के लिए प्रतिक्रिया सामग्री की जांच करना न भूलें। आप बिलिंग पारदर्शिता के लिए टोकन उपयोग डेटा तक भी पहुंच सकते हैं।

Node.js SDK सेटअप

JavaScript या TypeScript वातावरण के लिए, OpenAI Node SDK सहजता से काम करता है। पैकेज को इंस्टॉल करें और हमारे बेस URL के साथ क्लाइंट को इनिशियलाइज़ करें। यह मानक API इंटरफ़ेस के साथ संगतता बनाए रखता है।

अपने सिस्टम और उपयोगकर्ता संदेश परिभाषित करें। मॉडल ID uncensored ही रहता है। SDK एक प्रॉमिस लौटाता है जिसमें कंप्लीशन रिजल्ट होता है। API सीमाओं या अपर्याप्त क्रेडिट को प्रबंधित करने के लिए त्रुटियों को उचित रूप से संभालें।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

यह विधि वेब सर्वर या Node.js एप्लिकेशन के लिए उपयुक्त है। कोड संरचना Python उदाहरण को दर्शाती है, जिससे भाषाओं के बीच स्थिरता सुनिश्चित होती है। आप इसे आसानी से Express राउट या सर्वरलेस फ़ंक्शंस में एकीकृत कर सकते हैं।

स्ट्रीमिंग प्रतिक्रियाएं (SSE)

रियल-टाइम एप्लिकेशन के लिए, stream पैरामीटर को true पर सेट करके स्ट्रीमिंग सक्षम करें। सर्वर Server-Sent Events (SSE) की एक श्रृंखला भेजता है। प्रत्येक इवेंट में प्रतिक्रिया का एक आंशिक चंक होता है।

यह उपयोगकर्ताओं के लिए अनुभव की गई विलंबता को कम करता है। क्लाइंट टोकन को जनरेट होते ही प्राप्त करता है। यह चैट इंटरफ़ेस या लाइव पाठ जनरेशन के लिए उपयोगी है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

प्रत्येक टोकन निकालने के लिए SSE स्ट्रीम को पार्स करें। पूर्ण प्रतिक्रिया बनाने के लिए टेक्स्ट को संचित करें। chatgpt api लागत और अन्य प्रदायक अक्सर स्ट्रीमिंग के लिए समान शुल्क लेते हैं, लेकिन हमारा बिना सेंसर मॉडल इस मोड के लिए अतिरिक्त शुल्क के बिना अक्षरित आउटपुट प्रदान करता है। प्रतिक्रिया को अंतिम रूप देने के लिए स्ट्रीम एंड इवेंट की निगरानी करें।

सीमाएं, त्रुटियां और कॉन्टेक्स्ट

सुनिश्चित करें कि एकीकरण सहज हो, इसलिए संचालन सीमाओं को समझें। आपको प्रति API कुंजी प्रति मिनट 300 अनुरोधों की अनुमति है। यदि आप इससे अधिक जाते हैं, तो आपको 429 रेट लिमिट त्रुटि मिलती है। पुनः प्रयास करने से पहले प्रतीक्षा करें।

सामान्य त्रुटियों में अमान्य कुंजियों के लिए 401 और अपर्याप्त क्रेडिट के लिए 402 शामिल हैं। सुनिश्चित करें कि आपका प्रीपेड बैलेंस पर्याप्त है। कॉन्टेक्स्ट विंडो प्रॉम्प्ट और पूर्णता के लिए 100,000 टोकन तक समर्थित है। ट्रंकेशन से बचने के लिए अपने टोकन उपयोग का सावधानीपूर्वक प्रबंधन करें।

llm api मूल्य निर्धारण के लिए विस्तृत जानकारी हेतु मूल्य निर्धारण पृष्ठ देखें। प्रत्येक टोकन इनपुट और आउटपुट दरों के अनुसार चार्ज किया जाता है। कोई छिपा शुल्क लागू नहीं होता है। यह पारदर्शिता आपको अपनी एप्लिकेशन के लिए सटीक बजट बनाने में मदद करती है।