คู่มือการเชื่อมต่อจุดจบแบบไม่มีเซนเซอร์

URL ฐานและการตรวจสอบสิทธิ์

เริ่มต้นด้วยการชี้ไคลเอนต์ที่เข้ากันได้กับ OpenAI ของคุณไปยังจุดปลายของเรา แทนที่ URL พื้นฐานมาตรฐานด้วย https://api.llmgatewayopensource.com/v1 และเปลี่ยนคีย์ API ของคุณเป็นหัวข้อความยินยอม การเปลี่ยนแปลงเพียงครั้งเดียวนี้จะเปลี่ยนเส้นทางปริมาณการจราจรไปยังโมเดล uncensored ของเราโดยไม่กระทบตรรกะแอปพลิเคชันของคุณ คุณสร้างคีย์ผ่าน Google หรืออีเมลในแดชบอร์ด แต่ละบัญชีมีคีย์ใช้งานเพียงคีย์เดียวซึ่งจะแทนที่คีย์ก่อนหน้าทันที ไม่ต้องใช้ไฟล์กำหนดค่าหรือชั้นการเปลี่ยนเส้นทางที่ซับซ้อน

การขอข้อมูลครั้งแรกของคุณ

ส่งแพย์โหลด chat completion มาตรฐานเพื่อทดสอบการเชื่อมต่อทันที เอนด์พอยต์ยอมรับข้อความอินพุตและส่งข้อความที่สร้างกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย คุณสามารถตรวจสอบการตอบสนองโดยตรวจสอบฟิลด์ข้อความที่สร้าง ข้อผิดพลาดเช่นคีย์ไม่ถูกต้องจะส่ง 401 ในขณะที่เครดิตไม่เพียงพอจะส่ง 402 ใช้คำสั่งง่ายนี้เพื่อยืนยันว่าเซตอัพของคุณทำงานก่อนรวมเข้ากับเวิร์กโฟลว์หลักของคุณ

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

การใช้ SDK ของ Python

ติดตั้งไลบรารีทางการและเริ่มต้นด้วย URL พื้นฐานและคีย์ของคุณ วิธีนี้ช่วยให้คุณนำรูปแบบโค้ดที่คุ้นเคยมาใช้ใหม่ขณะเข้าถึงโมเดล uncensored ไคลเอนต์จัดการการจัดรูปแบบและการสตรีมโดยอัตโนมัติ คุณสามารถตั้งค่าพารามิเตอร์เช่น temperature หรือ top_p เพื่อควบคุมความคิดสร้างสรรค์ วิธีนี้เหมาะสำหรับบริการแบ็กเอนด์หรือสคริปต์ที่ต้องการการสร้างข้อความที่เชื่อถือable ส่ง ID โมเดล uncensored เพื่อให้แน่ใจว่าคุณเข้าถึงเอนด์พอยต์ที่ถูกต้อง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การผสานรวมกับ Node.js

เริ่มต้นใช้งาน client โดยใช้ base URL และ API key ของคุณในสภาพแวดล้อม Node การตั้งค่านี้รองรับทั้งการตอบสนอง JSON มาตรฐานและเหตุการณ์สตรีม คุณสามารถส่ง system prompts หรือข้อความ user ได้เหมือนกับที่คุณทำกับผู้ขายรายอื่นไลบรารีจัดการวงจรการเชื่อมต่ออย่างมีประสิทธิภาพ นี่คือวิธีที่แนะนำสำหรับเซิร์ฟเวอร์เว็บหรือฟังก์ชัน serverless ที่ต้องการสร้างข้อความตามความต้องการ ตรวจสอบให้แน่ใจว่าโค้ดของคุณจัดการ object การตอบสนองได้อย่างถูกต้องเพื่อดึงเนื้อหา

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตอบกลับแบบสตรีมด้วย SSE

เปิดใช้งานการสตรีมโดยการตั้งค่าพารามิเตอร์ stream เป็น true ในคำขอของคุณ เซิร์ฟเวอร์จะส่งชิ้นส่วนข้อความเมื่อถูกสร้าง ทำให้รับรู้ความล่าช้าต่ำลง แต่ละชิ้นส่วนรวมถึงข้อมูลการใช้โทเค็นในชิ้นส่วนสุดท้าย คุณลักษณะนี้จำเป็นสำหรับส่วนติดต่อผู้ใช้ที่แสดงข้อความแบบต่อเนื่อง คุณสามารถแยกวิเคราะห์สตรีม Server-Sent Events เพื่ออัปเดต UI แบบเรียลไทม์ ซึ่งช่วยลดเวลาในการรอสำหรับผลลัพธ์ที่ยาวนานอย่างมีนัยสำคัญ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ข้อจำกัด, ข้อผิดพลาด และบริบท

API ของเรากำหนดขีดจำกัดที่เข้มงวดแต่ยุติธรรมเพื่อให้มั่นใจในความเสถียร คุณได้รับการอนุญาตให้เรียกใช้ 300 ครั้งต่อนาที และความพร้อมใช้งานคือ 8 การเรียกใช้พร้อมกันต่อคีย์ หน้าต่างบริบทรองรับ 100,000 tokens สำหรับทั้ง prompt และ completion รวมกัน ผลลัพธ์สูงสุดต่อการเรียกใช้คือ 16,000 tokens เว้นแต่คุณจะระบุขีดจำกัดที่ต่ำกว่า ข้อผิดพลาดรวมถึง 401 สำหรับคีย์ที่ไม่ถูกต้อง 402 สำหรับเครดิตต่ำ และ 429 สำหรับขีดจำกัดอัตรา ขนาด body การเรียกใช้ต้องไม่เกิน 8 MB ขีดจำกัดเหล่านี้มีความโปร่งใสและสอดคล้องกัน