Integrationsguide til det ubegrænsede slutpunkt

Base URL og autentificering

Start med at pege dit OpenAI-kompatible klientbibliotek mod vores endpoint. Erstat standard base URL med https://api.llmgatewayopensource.com/v1 og udskift din API-nøgle i autorisationsheaderen. Denne enkelt ændring omdirigerer trafikken til vores uncensored-model uden at røre ved din applikationslogik. Du genererer nøgler via Google eller e-mail på dashboardet. Hver konto har én aktiv nøgle, der øjeblikkeligt erstatter den forrige. Der kræves ingen konfigurationsfiler eller komplekse routing-lag.

At lave din første anmodning

Send en standard chat-completion-payload for at teste forbindelsen med det samme. Endepunktet accepterer tekstinput og returnerer genereret tekst uden indholdsafvisninger til lovligt voksenbrug. Du kan verificere svaret ved at tjekke feltet for genereret tekst. Fejl som ugyldige nøgler returnerer 401, mens utilstrækkelig kredit returnerer 402. Brug denne enkle kommando til at bekræfte, at din opsætning virker, før du integrerer den i din hovedarbejdsgang.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Using the Python SDK

Installer det officielle bibliotek og initialiser det med vores basale URL og din nøgle. Denne tilgang lader dig genbruge kendte kodemønstre, mens du får adgang til den uncensored-model. Klienten håndterer serialisering og streaming automatisk. Du kan indstille parametre som temperature eller top_p for at kontrollere kreativitet. Denne metode er ideel til backend-tjenester eller scripts, der har brug for pålidelig tekstgenerering. Overfør model-ID uncensored for at sikre, at du rammer den korrekte endpoint.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integration med Node.js

Initialiser klienten ved at bruge base URL og din API-nøgle i dit Node-miljø. Denne opsætning understøtter både standard JSON-svar og streaming-events. Du kan videregive system prompts eller brugermeddelelser præcis som du ville gøre med andre udbydere. Biblioteket håndterer forbindelsens livscyklus effektivt. Dette er den foretrukne metode til webservere eller serverløse funktioner, der skal generere tekst på opfordring. Sørg for, at din kode håndterer svarobjektet korrekt for at udtrække indholdet.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming-respons med SSE

Aktivér streaming ved at indstille stream-parameteren til true i din request. Serveren sender tekstchunks, mens de genereres, hvilket giver en lavere opfattet latens. Hver chunk indeholder tokenforbrugsdata i den sidste del. Denne funktion er essentiel for brugergrænseflader, der viser tekst progressivt. Du kan parse Server-Sent Events-strømmen til at opdatere UI'et i real-time. Det reducerer ventetiden for lange output betydeligt.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Begrænsninger, fejl og kontekst

Vores API har strenge, men retfærdige grænser for at sikre stabilitet. Du får 300 requests i minuttet og en samtidighed på 8 samtidige requests per nøgle. Kontekstvinduet understøtter 100,000 tokens til både prompt og completion samlet. Maks output per request er 16,000 tokens, medmindre du angiver en lavere grænse. Fejl inkluderer 401 for dårlige nøgler, 402 for lav kredit og 429 for rate limits. Request-bodies skal holdes under 8 MB. Disse begrænsninger er gennemsigtige og konsistente.