Průvodce integrací pro endpoint bez omezení

Základní URL a ověření

Začněte nastavením vašeho klienta kompatibilního s OpenAI na náš koncový bod. Nahraďte standardní základní URL za https://api.llmgatewayopensource.com/v1 a vložte svůj API klíč do hlavičky autorizace. Tato jediná změna přesměruje provoz na náš model bez obsahu filtrů, aniž byste museli měnit logiku své aplikace. Klíče generujete přes Google nebo e-mail na dashboardu. Každý účet má jeden aktivní klíč, který nahrazuje předchozí okamžitě. Není třeba konfiguračních souborů ani složitých vrstev směrování.

Vytvoření prvního požadavku

Standardní payload pro dokončení chatu pro okamžité otestování připojení. Koncový bod přijímá textový vstup a vrací generovaný text bez odmítnutí obsahu pro legální použití pro dospělé. Odpověď můžete ověřit kontrolou pole generovaného textu. Chyby jako neplatné klíče vracejí 401, zatímco nedostatečný kredit vrací 402. Použijte tento jednoduchý příkaz pro potvrzení, že vaše nastavení funguje, než jej integrujete do hlavního pracovního postupu.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Použití Python SDK

Nainstalujte oficiální knihovnu a inicializujte ji s naší základní URL a vaším klíčem. Tento přístup vám umožňuje znovu použít známé vzorce kódu při přístupu k modelu uncensored. Klient automaticky zpracovává serializaci a streamování. Parametry jako temperature nebo top_p můžete nastavit pro ovládání kreativity. Tato metoda je ideální pro backendové služby nebo skripty, které potřebují spolehlivé generování textu. Předáte ID modelu uncensored abyste zasáhli správný endpoint.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integrace s Node.js

Inicializujte klienta pomocí základní URL a vašeho API klíče ve vašem prostředí Node. Toto nastavení podporuje jak standardní odpovědi JSON, tak streamovací události. Můžete předávat systémové výzvy nebo zprávy uživatele stejně jako u jiných poskytovatelů. Knihovna efektivně spravuje životní cyklus připojení. Toto je preferovaná metoda pro webové servery nebo serverless funkce, které potřebují generovat text na vyžádání. Ujistěte se, že váš kód správně zpracovává objekt odpovědi pro extrakci obsahu.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamované odpovědi pomocí SSE

Povolte streamování nastavením parametru stream na true v požadavku. Server odesílá chunky textu, jak jsou generovány, což umožňuje nižší vnímanou latenci. Každý chunk zahrnuje data o využití tokenů v poslední části. Tato funkce je zásadní pro uživatelská rozhraní, která zobrazují text postupně. Můžete parsovat stream Server-Sent Events pro aktualizaci UI v reálném čase. Výrazně snižuje dobu čekání pro dlouhé výstupy.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, chyby a kontext

Naše API zavádí přísná, ale férová omezení pro zajištění stability. Máte k dispozici 300 požadků za minutu a souběžnost 8 současných požadků na klíč. Kontextové okno podporuje 100,000 tokenů pro prompt i completion dohromady. Maximální výstup na požaděk je 16,000 tokenů, pokud neurčíte nižší limit. Chyby zahrnují 401 pro špatné klíče, 402 pro nízký kredit a 429 pro limity rychlosti. Těla požadků musí být menší než 8 MB. Tato omezení jsou transparentní a konzistentní.