Integrációs útmutató az uncensored végponthoz

Base URL és hitelesítés

Kezdje az OpenAI-kompatibilis ügyfélprogram irányításával a végpontunkhoz. Cserélje le a szabványos alap URL-t https://api.llmgatewayopensource.com/v1 és cserélje be az API-kulcsot az autorizációs fejlécbe. Ez az egyetlen módosítás a forgalmat az uncensored modellünkre irányítja anélkül, hogy az alkalmazás logikáját érintené. Kulcsokat generálhat Google-fiókkal vagy e-maillel a kezelőfelületen. Minden fiók egy aktív kulccsal rendelkezik, amely azonnal lecseréli az előzőt. Nem szükségesek konfigurációs fájlok vagy komplex irányítási rétegek.

Az első kérés végrehajtása

Küldjön egy szabványos chat completion payloadt a kapcsolódás azonnali tesztelésére. A végpont elfogad szöveg bemenetet, és generált szöveget ad vissza törvényes felnőtt használatra történő tartalom-visszautasítások nélkül. Ellenőrizheti a választ a generált szöveg mező megvizsgálásával. A hibák, mint az érvénytelen kulcsok, 401-es választ adnak, míg a elégtelen kredit 402-es választ. Használja ezt az egyszerű parancsot a beállítás ellenőrzésére az integráció előtt.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

A Python SDK használata

Telepítse a hivatalos könyvtárat, és inicializálja a base URL és a kulcs megadásával. Ez a megközelítés lehetővé teszi a jól ismert kódminták újrahasználatát az uncensored modell elérése közben. A kliens automatikusan kezeli a szerializálást és a streamelést. Paramétereket, például a temperature vagy top_p értékeket állíthat be a kreativitás szabályozására. Ez a módszer ideális backend szolgáltatásokhoz vagy szkriptekhez, amelyek megbízható szöveggenerálást igényelnek. Adja meg a modell azonosítóját uncensored a helyes végponthoz csatlakozik.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integráció Node.js-szel

Inicializálja a klienst az alap URL-címmel és az API-kulccsal Node.js környezetben. Ez a beállítás támogatja a szabványos JSON válaszokat és a streamelő eseményeket. Átadhat rendszeri promptokat vagy felhasználói üzeneteket, pontosan úgy, mint más szolgáltatók esetén. A könyvtár hatékonyan kezeli a kapcsolat élettartamát. Ez az előnyben részesített módszer webkiszolgálókhoz vagy serverless funkciókhoz, amelyeknek igény szerint kell szöveget generálniuk. Győződjön meg arról, hogy a kódja helyesen kezeli a válasz objektumot a tartalom kinyeréséhez.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelt válaszok SSE-vel

A streamelés engedélyezéséhez állítsa a stream paramétert true értékre a kérésben. A szerver szövegdarabokat küld generáláskor, alacsonyabb késleltetési érzékelést biztosítva. Minden darab token-felhasználási adatot tartalmaz a végső darabban. Ez a funkció elengedhetetlen a fokozatosan megjelenő szöveget megjelenítő felhasználói felületekhez. Az SSE streamet elemezheti a felhasználói felület valós idejű frissítéséhez. Jelentősen csökkenti a várakozási időt hosszú kimenetek esetén.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Korlátok, hibák és kontextus

API-nk szigorú, de tisztességes korlátokat ír elő a stabilitás biztosítása érdekében. Kulcsonként percenként 300 kérelmet és 8 egyidejű kérést küldhet. A kontextusablak 100,000 token kapacitást biztosít a prompt és a kiegészítés együttesen. A kérelemenkénti maximális kimenet 16,000 token, hacsak nem ad meg alacsonyabb korlátot. A hibák között szerepel a 401 (rossz kulcs), a 402 (alacsony egyenleg) és a 429 (átfolyási korlát). A kérelem törzse nem haladhatja meg a 8 MB-ot. Ezek a korlátok átláthatóak és konzisztensek.