Integrationsguide för den obegränsade slutpunkten

Bas URL och autentisering

Börja med att peka ditt OpenAI-kompatibla klientprogram mot vår slutpunkt. Ersätt den standardmässiga bas-URL:en med https://api.llmgatewayopensource.com/v1 och byt ut din API-nyckel i auktoriseringshuvudet. Denna enda ändring omdirigerar trafik till vår osensurerade modell utan att ändra din applikationslogik. Du genererar nycklar via Google eller e-post i dashboarden. Varje konto har en aktiv nyckel som ersätter den föregående omedelbart. Inga konfigurationsfiler eller komplexa routningslager krävs.

Att göra din första förfrågan

Skicka en standard Chat Completion-payload för att testa anslutningen direkt. Slutpunkten accepterar textinmatning och returnerar genererad text utan innehållsavvisningar för laglig vuxenanvändning. Du kan verifiera svaret genom att kontrollera fältet för genererad text. Fel som ogiltiga nycklar returnerar 401, medan otillräckligt kreditåterstående returnerar 402. Använd denna enkla kommando för att bekräfta att din installation fungerar innan du integrerar den i ditt huvudarbetsflöde.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Använder Python SDK

Installera det officiella biblioteket och initiera det med vår bas-URL och din nyckel. Detta tillvägagångssätt låter dig återanvända bekanta kodmönster samtidigt som du får tillgång till den obegränsade modellen. Klienten hanterar serialisering och streaming automatiskt. Du kan ställa in parametrar som temperature eller top_p för att styra kreativitet. Denna metod är idealisk för backend-tjänster eller skript som behöver tillförlitlig textgenerering. Skicka modell-ID:t uncensored för att säkerställa att du når rätt slutpunkt.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integration med Node.js

Initiera klienten med bas-URLen och din API-nyckel i din Node-miljö. Denna konfiguration stöder både standard JSON-svar och strömningshändelser. Du kan skicka systemprompter eller användarmeddelanden precis som du skulle göra med andra leverantörer. Biblioteket hanterar anslutningslivscykeln effektivt. Detta är den föredragna metoden för webbservern eller serverlösa funktioner som behöver generera text vid behov. Se till att din kod hanterar svarobjektet korrekt för att extrahera innehållet.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömsvar med SSE

Aktivera strömning genom att ställa in stream-parametern till true i din begäran. Servern skickar textchunks när de genereras, vilket möjliggör lägre latensuppfattning. Varje chunk innehåller tokenanvändningsdata i den sista biten. Denna funktion är avgörande för användargränssnitt som visar text progressivt. Du kan parsning Server-Sent Events-strömmen för att uppdatera UI:en i realtid. Det minskar väntetiden för långa utdata avsevärt.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gränser, fel och kontext

Vårt API tillämpar strikta men rättvisa gränser för att säkerställa stabilitet. Du får 300 begäranden per minut och en samtidighet på 8 samtidiga begäranden per nyckel. Kontextfönstret stöder 100 000 token för både prompt och slutförande tillsammans. Max utdata per begäran är 16 000 token om du inte anger en lägre gräns. Fel inkluderar 401 för dåliga nycklar, 402 för lågt kreditbelopp och 429 för hastighetsgränser. Begärandekroppar måste hålla sig under 8 MB. Dessa begränsningar är transparenta och konsekventa.