מדריך אינטגרציה לנקודת הקצה ללא צנזורה

כתובת URL בסיסית ואימות

התחל בצביעת הלקוח התואם ל-OpenAI שלך לנקודת הקצה שלנו. החלף את כתובת הבסיס הסטנדרטית עם https://api.llmgatewayopensource.com/v1 וחלף את מפתח ה-API שלך בכותרת ההרשאה. שינוי בודד זה מפנה תעבורה למודל ה-un-censored שלנו ללא מגע עם לוגיקת האפליקציה שלך. אתה מייצר מפתחות דרך Google או אימייל בלוח הבקרה. כל חשבון מחזיק מפתח פעיל אחד שמחליף את הקודם מיד. אין צורך בקבצי תצורה או שכבות ניהול מסלול מורכבות.

ביצוע הבקשה הראשונה

שלח פלט סטנדרטי של השלמת צ'אט כדי לבדוק חיבוריות מיד. הנקודה הקצה מקבלת קלט טקסט ומחזירה טקסט שנוצר ללא סירובי תוכן לשימוש בוגר חוקי. אתה יכול לאמת את התגובה על ידי בדיקת שדה הטקסט שנוצר. שגיאות כמו מפתחות לא חוקיים מחזירות 401, בעוד שאי מספיק קרדיט מחזיר 402. השתמש בפקודה פשוטה זו כדי לוודא שההגדרה שלך עובדת לפני שמשלב אותה בזרימת העבודה הראשית שלך.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

שימוש ב-SDK Python

התקן את הספרייה הרשמית ואתחל אותה עם כתובת הבסיס שלנו והמפתח שלך. גישה זו מאפשרת לך להשתמש בתבניות קוד מוכרות תוך גישה למודל ללא צנזורה. הלקוח מטפל ברצף ובסטרימינג באופן אוטומטי. ניתן להגדיר פרמטרים כמו temperature או top_p כדי לשלוט ביצירתיות. שיטה זו אידיאלית לשירותי backend או סקריפטים שזקוקים ליצירת טקסט אמינה. העבר את מזהה המודל uncensored כדי להבטיח שאתה פוגע בנקודת הקצה הנכונה.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

שילוב עם Node.js

אתחל את הלקוח באמצעות כתובת ה-URL הבסיסית ומפתח ה-API שלך בסביבת Node שלך. תצורה זו תומכת הן בתגובות JSON סטנדרטיות והן באירועי סטרימינג. ניתן להעביר הוראות מערכת או הודעות משתמש בדיוק כמו אצל ספקים אחרים. הספרייה מנהלת את מחזור החיים של החיבור ביעילות. זוהי השיטה המועדפת לשרתי אינטרנט או פונקציות ללא שרת שצריכות לייצר טקסט לפי דרישה. ודא שהקוד שלך מטפל באובייקט התגובה נכון כדי לחלץ את התוכן.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

תגובות בזרם עם SSE

אפשרו סטרימינג על ידי הגדרת הפרמטר stream לערך true בבקשה שלכם. השרת שולח נתחים של טקסט ככל שהם נוצרים, מה שמאפשר תפיסה של זמן המתנה נמוך יותר. כל נתח כולל נתוני שימוש בטוקנים בחלק הסופי. תכונה זו חיונית לממשקי משתמש המציגים טקסט בהדרגה. ניתן לנתח את זרם אירועי השרת (SSE) כדי לעדכן את הממשק בזמן אמת. זה מפחית משמעותית את זמן ההמתנה לפלט ארוך.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

מגבלות, שגיאות והקשר

ה-API שלנו מגביל בצורה קפדנית אך הוגנת כדי להבטיח יציבות. יש לכם 300 בקשות לדקה ומקבילות של 8 בקשות בו-זמנית לכל מפתח. חלון ההקשר תומך ב-100,000 טוקנים עבור פרומפט והשלמה משולבים. הפלט המקסימלי לבקשה הוא 16,000 טוקנים אלא אם כן תציינו מגבלה נמוכה יותר. השגיאות כוללות 401 למפתחות רעים, 402 לאשראי נמוך, ו-429 למגבלות קצב. גוף הבקשה חייב להיות מתחת ל-8 MB. מגבלות אלו שקופות ועקביות.