अनसेंसर्ड एंडपॉइंट के लिए इंटीग्रेशन गाइड

बेस URL और प्रमाणीकरण

अपने OpenAI-संगत क्लाइंट को हमारे एंडपॉइंट की ओर इशारा करके शुरू करें। मानक बेस यूआरएल को https://api.llmgatewayopensource.com/v1 और अपनी API कुंजी को authorization हेडर में डालें। यह एकमात्र बदलाव ट्रैफ़िक को हमारे uncensored मॉडल की ओर रीडायरेक्ट करता है, बिना आपके एप्लिकेशन लॉजिक को छुए। आप डैशबोर्ड पर Google या ईमेल के माध्यम से कुंजियां जनरेट करते हैं। प्रत्येक खाते में एक सक्रिय कुंजी होती है जो पिछली कुंजी को तुरंत प्रतिस्थापित कर देती है। कॉन्फ़िगरेशन फ़ाइलों या जटिल रूटिंग परतों की आवश्यकता नहीं है।

अपना पहला अनुरोध बनाना

कनेक्टिविटी तुरंत टेस्ट करने के लिए एक मानक चैट कंप्लीशन पेलोड भेजें। एंडपॉइंट टेक्स इनपुट स्वीकार करता है और कानूनी वयस्क उपयोग के लिए सामग्री अस्वीकृतियों के बिना जनरेटेड टेक्स्ट लौटाता है। जनरेटेड टेक्स्ट फ़ील्ड की जाँच करके प्रतिक्रिया की पुष्टि कर सकते हैं। अमान्य कुंजियों जैसी त्रुटियाँ 401 लौटाती हैं, जबकि अपर्याप्त क्रेडिट 402 लौटाता है। अपने मुख्य वर्कफ़्लो में इसे इंटीग्रेट करने से पहले इस सरल कमांड का उपयोग करके पुष्टि करें कि आपकी सेटअप काम कर रही है।

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Python SDK का उपयोग करना

आधिकारिक लाइब्रेरी इंस्टॉल करें और इसे हमारे बेस URL और अपनी कुंजी के साथ इनिशियलाइज़ करें। यह दृष्टिकोण आपको परिचित कोड पैटर्न का पुन: उपयोग करने की अनुमति देता है जबकि अन्सेंसर्ड मॉड तक पहुंचता है। क्लाइंट सिरियलाइज़ेशन और स्ट्रीमिंग को स्वचालित रूप से संभालता है। आप रचनाशीलता को नियंत्रित करने के लिए तापमान या top_p जैसे पैरामीटर सेट कर सकते हैं। यह विधि उन बैकएंड सेवाओं या स्क्रिप्ट्स के लिए आदर्श है जिन्हें विश्वसनीय टेक्स्ट जनरेशन की आवश्यकता होती है। मॉडल ID पास करें uncensored सुनिश्चित करने के लिए कि आप सही एंडपॉइंट पर पहुंचें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js के साथ इंटीग्रेट करना

अपने नोड वातावरण में बेस यूआरएल और अपनी एपीआई कुंजी का उपयोग करके क्लाइंट को इनिशियलाइज़ करें। यह सेटअप मानक JSON प्रतिक्रियाओं और स्ट्रीमिंग इवेंट्स दोनों का समर्थन करता है। आप अन्य विक्रेताओं की तरह ही सिस्टम प्रॉम्प्ट या उपयोगकर्ता संदेश पास कर सकते हैं। लाइब्रेरी कनेक्शन लाइफसाइकल को कुशलता से प्रबंधित करती है। यह वेब सर्वर या सर्वरलेस फंक्शंस के लिए प्राथमिक विधि है जिन्हें मांग पर टेक्स्ट जनरेट करने की आवश्यकता होती है। सुनिश्चित करें कि आपका कोड प्रतिक्रिया ऑब्जेक्ट को सही ढंग से संभालता है ताकि सामग्री को निकाला जा सके।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SSE के साथ स्ट्रीमिंग प्रतिक्रियाएं

अपने अनुरोध में stream पैरामीटर को true सेट करके स्ट्रीमिंग सक्षम करें। सर्वर जनरेट होते ही पाठ के चंक भेजता है, जिससे लेटेंसी का अनुभव कम होता है। प्रत्येक चंक में टोकन उपयोग डेटा होता है, जो अंतिम हिस्से में होता है। यह फीचर उन यूजर इंटरफेस के लिए आवश्यक है जो पाठ को क्रमिक रूप से प्रदर्शित करते हैं। आप रियल-टाइम में UI को अपडेट करने के लिए सर्वर-सेंट इवेंट्स स्ट्रीम को पार्स कर सकते हैं। यह लंबे आउटपुट के लिए प्रतीक्षा समय को काफी कम करता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

सीमाएं, त्रुटियां, और संदर्भ

हमारा API स्थिरता सुनिश्चित करने के लिए कठोर लेकिन न्यायसंगत सीमाएं लागू करता है। आपको प्रति मिनट 300 अनुरोध और प्रति कुंजी 8 समानांतर अनुरोधों की सह-कार्यता मिलती है। संदर्भ विंडो प्रॉम्प्ट और पूर्णता दोनों के लिए 100,000 टोकन का समर्थन करती है। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है जब तक कि आप कम सीमा निर्दिष्ट न करें। त्रुटियों में बुरी कुंजियों के लिए 401, कम क्रेडिट के लिए 402, और दर सीमाओं के लिए 429 शामिल हैं। अनुरोध बॉडी 8 MB से कम रहनी चाहिए। ये बाधाएं पारदर्शी और स्थिर हैं।