Ghid de integrare pentru endpoint-ul fără cenzură
Integrați acest LLM fără cenzură în codul existent modificând URL-ul de bază și cheia API. Păstrați logica; noi gestionăm inferența fără filtre.
URL de bază și autentificare
Începe prin a orienta clientul tău compatibil cu OpenAI către endpoint-ul nostru. Înlocuiește URL-ul de bază standard cu https://api.llmgatewayopensource.com/v1 și înlocuiește cheia ta API în antetul de autorizare. Această singură modificare redirecționează traficul către modelul nostru uncensored fără a atinge logica aplicației tale. Generezi chei prin Google sau email în panoul de control. Fiecare cont deține o singură cheie activă care înlocuiește imediat pe cea anterioară. Nu sunt necesare fișiere de configurare sau straturi complexe de rutare.
Realizarea primei tale cereri
Trimiteți un payload standard de completare a chat-ului pentru a testa conectivitatea imediat. Endpointul acceptă textul de intrare și returnează textul generat fără refuzuri de conținut pentru uz adult legal. Puteți verifica răspunsul verificând câmpul textului generat. Erorile precum cheile invalide returnează 401, în timp ce creditul insuficient returnează 402. Utilizați această comandă simplă pentru a confirma că configurația funcționează înainte de a o integra în fluxul de lucru principal.
curl https://api.llmgatewayopensource.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
}'
Folosirea SDK-ului Python
Instalează librăria oficială și initializeaz-o cu URL-ul nostru de bază și cheia. Această abordare îți permite să reutilizezi modelele de cod familiare în timp ce accesezi modelul uncensored. Clientul gestionează serializarea și streaming-ul automat. Poți seta parametri precum temperature sau top_p pentru a controla creativitatea. Această metodă este ideală pentru serviciile backend sau scripturile care au nevoie de generare de text fiabilă. Transmite ID-ul modelului uncensored pentru a vă asigura că atingeți endpoint-ul corect.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Integrarea cu Node.js
Inițializează clientul folosind URL-ul de bază și cheia ta API în mediul Node. Această configurare suportă atât răspunsuri JSON standard, cât și evenimente de streaming. Poți trece prompturi de sistem sau mesaje de utilizator exact ca și cum ai folosi alți furnizori. Biblioteca gestionează eficient ciclul de viață al conexiunii. Aceasta este metoda preferată pentru servere web sau funcții serverless care trebuie să genereze text la cerere. Asigură-te că codul tău gestionează corect obiectul de răspuns pentru a extrage conținutul.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Răspunsuri în flux cu SSE
Activați streaming-ul setând parametrul stream la true în cererea dumneavoastră. Serverul trimite fragmente de text pe măsură ce sunt generate, permițând o percepție a latenței mai scăzute. Fiecare fragment include date de utilizare a tokenilor în ultima piesă. Această funcție este esențială pentru interfețele utilizator care afișează text progresiv. Puteți analiza fluxul Evenimente trimise de server (SSE) pentru a actualiza interfața grafică în timp real. Reduce semnificativ timpul de așteptare pentru ieșiri lungi.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Limitări, erori și context
API-ul nostru impune limite stricte, dar corecte, pentru a asigura stabilitatea. Aveți 300 de cereri pe minut și o concurență de 8 cereri simultane per cheie. Fereastra de context suportă 100.000 de tokeni pentru prompt și completare combinate. Output-ul maxim per cerere este de 16.000 de tokeni, decât dacă specificați o limită mai mică. Erorile includ 401 pentru chei greșite, 402 pentru credit scăzut și 429 pentru limite de rată. Corpurile cererilor trebuie să rămână sub 8 MB. Aceste constrângeri sunt transparente și consistente.
Întrebări frecvente
Care este structura de prețuire open source a gateway LLM?
Taxăm 0,15 $ per 1M tokeni de intrare și 0,50 $ per 1M tokeni de ieșire. Plătiți doar pentru ceea ce utilizați, cu un credit preplătit care nu expiră niciodată. Erorile și refuzurile nu consumă creditele.
Este un LLM fără filtre potrivit pentru conținut NSFW?
Da, modelul nu refuză subiecte adulte, de ficțiune sau controversate. Nu este GPT, Claude sau niciun alt model de furnizor. Singura limită strictă este că conținutul sexual care implică minori este întotdeauna refuzat.
Pot folosi acest endpoint ca un API compatibil cu OpenAI?
Absolut. Urmează formatul standard chat-completions. Trebuie doar să schimbi URL-ul de bază și cheia API în codul tău existent. Funcționează cu SDK-urile oficiale și orice client compatibil.