Panduan penggabungan untuk titik akhir tanpa sensor

URL Asas dan pengesahan

Mula dengan mengarahkan klien serasi OpenAI anda ke hujung sambungan kami. Gantikan URL asas piawai dengan https://api.llmgatewayopensource.com/v1 dan tukarkan kunci API anda ke dalam header pengesahan. Perubahan tunggal ini mengalihkan trafik ke model tanpa sensor kami tanpa mengubah logik aplikasi anda. Anda menjana kunci melalui Google atau e-mel di papan pemuka. Setiap akaun memegang satu kunci aktif yang menggantikan kunci sebelumnya serta-merta. Tiada fail konfigurasi atau lapisan laluan kompleks diperlukan.

Membuat permintaan pertama anda

Hantar payload penyelesaian chat standard untuk menguji sambungan serta-merta. Hujung endpoint menerima input teks dan mengembalikan teks yang dijana tanpa penolakan kandungan untuk penggunaan dewasa yang sah. Anda boleh mengesahkan respons dengan memeriksa medan teks yang dijana. Ralat seperti kunci tidak sah memulangkan 401, manakala kredit tidak mencukupi memulangkan 402. Gunakan arahan mudah ini untuk mengesahkan setup anda berfungsi sebelum mengintegrasikannya ke dalam aliran kerja utama anda.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Penggunaan SDK Python

Pasang perpustakaan rasmi dan inisialisasikan dengan URL asas kami dan kunci anda. Pendekatan ini membolehkan anda menggunakan semula corak kod yang biasa sambil mengakses model uncensored. Klien mengendalikan serialisasi dan penstriman secara automatik. Anda boleh menetapkan parameter seperti suhu atau top_p untuk mengawal kreativiti. Kaedah ini sesuai untuk perkhidmatan backend atau skrip yang memerlukan penjanaan teks yang boleh dipercayai. Luluskan ID model uncensored untuk memastikan anda mencapai titik akhir yang betul.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pengintegrasian dengan Node.js

Mulakan klien menggunakan URL asas dan kunci API anda dalam persekitaran Node anda. Sediaan ini menyokong kedua-dua respons JSON piawai dan acara penstriman. Anda boleh luluskan arahan sistem atau mesej pengguna sama seperti yang anda lakukan dengan vendor lain. Perpustakaan menguruskan kitar hayat sambungan dengan cekap. Ini adalah kaedah pilihan untuk pelayan web atau fungsi tanpa pelayan yang perlu menjana teks mengikut permintaan. Pastikan kod anda mengendalikan objek respons dengan betul untuk mengekstrak kandungan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respons penstriman dengan SSE

Aktifkan penstriman dengan menetapkan parameter stream kepada true dalam permintaan anda. Pelayan menghantar pecahan teks apabila ia dijana, membolehkan persepsi latensi yang lebih rendah. Setiap pecahan termasuk data penggunaan token dalam bahagian akhir. Ciri ini penting untuk antara muka pengguna yang memaparkan teks secara progresif. Anda boleh menguraikan aliran Acara Dikirim Pelayan untuk mengemas kini UI secara masa nyata. Ia mengurangkan masa tunggu untuk output panjang dengan ketara.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Had, ralat, dan konteks

API kami mengenakan had yang ketat tetapi adil untuk memastikan kestabilan. Anda mendapat 300 permintaan setiap minit dan kekoncurrentan sebanyak 8 permintaan serentak per kunci. Tetingkap konteks menyokong 100,000 token untuk gabungan prompt dan penyelesaian. Output maksimum per permintaan ialah 16,000 token melainkan anda menentukan had yang lebih rendah. Ralat termasuk 401 untuk kunci buruk, 402 untuk kredit rendah, dan 429 untuk had kadar. Badan permintaan mesti kekal di bawah 8 MB. Kekangan ini telus dan konsisten.