Panduan integrasi untuk endpoint uncensored

URL Dasar dan autentikasi

Mulai dengan mengarahkan klien yang kompatibel dengan OpenAI Anda ke endpoint kami. Ganti URL dasar standar dengan https://api.llmgatewayopensource.com/v1 dan ganti kunci API Anda ke header otorisasi. Perubahan tunggal ini mengalihkan lalu lintas ke model uncensored kami tanpa mengubah logika aplikasi Anda. Anda menghasilkan kunci melalui Google atau email di dasbor. Setiap akun memegang satu kunci aktif yang menggantikan kunci sebelumnya secara instan. Tidak ada file konfigurasi atau lapisan routing kompleks yang diperlukan.

Melakukan permintaan pertama Anda

Kirimkan payload completion chat standar untuk menguji konektivitas segera. Endpoint menerima input teks dan mengembalikan teks yang dihasilkan tanpa penolakan konten untuk penggunaan dewasa yang sah. Anda dapat memverifikasi respons dengan memeriksa bidang teks yang dihasilkan. Kesalahan seperti kunci tidak valid mengembalikan 401, sedangkan kredit tidak cukup mengembalikan 402. Gunakan perintah sederhana ini untuk mengkonfirmasi bahwa pengaturan Anda berfungsi sebelum mengintegrasikannya ke dalam alur kerja utama Anda.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Menggunakan SDK Python

Instal pustaka resmi dan inisialisasi dengan URL dasar kami dan kunci Anda. Pendekatan ini memungkinkan Anda menggunakan pola kode yang sudah dikenal sambil mengakses model uncensored. Klien menangani serialisasi dan streaming secara otomatis. Anda dapat menetapkan parameter seperti temperature atau top_p untuk mengontrol kreativitas. Metode ini ideal untuk layanan backend atau skrip yang memerlukan generasi teks yang andal. Teruskan ID model uncensored agar Anda mencapai endpoint yang benar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mengintegrasikan dengan Node.js

Inisialisasi klien menggunakan URL dasar dan kunci API Anda di lingkungan Node Anda. Penyiapan ini mendukung respons JSON standar dan peristiwa streaming. Anda dapat meneruskan prompt sistem atau pesan pengguna seperti yang Anda lakukan dengan vendor lain. Perpustakaan mengelola siklus hidup koneksi secara efisien. Ini adalah metode yang disukai untuk server web atau fungsi serverless yang perlu menghasilkan teks sesuai permintaan. Pastikan kode Anda menangani objek respons dengan benar untuk mengekstrak konten.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respons streaming dengan SSE

Aktifkan streaming dengan mengatur parameter stream menjadi true dalam permintaan Anda. Server mengirimkan potongan teks saat teks tersebut dihasilkan, memungkinkan persepsi latensi yang lebih rendah. Setiap potongan mencakup data penggunaan token pada potongan terakhir. Fitur ini sangat penting untuk antarmuka pengguna yang menampilkan teks secara bertahap. Anda dapat mengurai aliran Server-Sent Events untuk memperbarui UI secara real-time. Ini secara signifikan mengurangi waktu tunggu untuk output panjang.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Batas, error, dan konteks

API kami membatasi batas yang ketat namun adil untuk memastikan stabilitas. Anda mendapatkan 300 permintaan per menit dan konkurensi 8 permintaan simultan per kunci. Jendela konteks mendukung 100,000 token untuk prompt dan penyelesaian secara gabungan. Output maksimum per permintaan adalah 16,000 token kecuali Anda menentukan batas yang lebih rendah. Error mencakup 401 untuk kunci buruk, 402 untuk kredit rendah, dan 429 untuk batas laju. Badan permintaan harus tetap di bawah 8 MB. Kendala-kendala ini transparan dan konsisten.