Guide d'intégration du point de terminaison sans censure

URL de base et authentification

Commencez par pointer votre client compatible OpenAI vers notre point de terminaison. Remplacez l'URL de base standard par https://api.llmgatewayopensource.com/v1 et intégrez votre clé API dans l'en-tête d'autorisation. Ce seul changement redirige le trafic vers notre modèle uncensored sans toucher à la logique de votre application. Vous générez des clés via Google ou e-mail sur le tableau de bord. Chaque compte détient une clé active qui remplace immédiatement la précédente. Aucun fichier de configuration ni couche de routage complexe n'est requis.

Effectuer votre première requête

Envoyez une charge utile standard de complétion de chat pour tester la connectivité immédiatement. Le point de terminaison accepte l'entrée de texte et renvoie du texte généré sans refus de contenu pour une utilisation adulte légale. Vous pouvez vérifier la réponse en examinant le champ de texte généré. Les erreurs comme les clés invalides renvoient 401, tandis qu'un solde insuffisant renvoie 402. Utilisez cette commande simple pour confirmer que votre configuration fonctionne avant de l'intégrer à votre flux de travail principal.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Utilisation du SDK Python

Installez la bibliothèque officielle et initialisez-la avec notre URL de base et votre clé. Cette approche vous permet de réutiliser des modèles de code familiers tout en accédant au modèle uncensored. Le client gère automatiquement la sérialisation et le streaming. Vous pouvez définir des paramètres comme temperature ou top_p pour contrôler la créativité. Cette méthode est idéale pour les services backend ou les scripts nécessitant une génération de texte fiable. Transmettez l'ID du modèle uncensored pour s'assurer que vous atteignez le bon point de terminaison.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Intégration avec Node.js

Initialisez le client en utilisant l'URL de base et votre clé API dans votre environnement Node. Cette configuration prend en charge à la fois les réponses JSON standard et les événements de streaming. Vous pouvez passer des invites système ou des messages utilisateur comme vous le feriez avec d'autres fournisseurs. La bibliothèque gère efficacement le cycle de vie de la connexion. C'est la méthode préférée pour les serveurs web ou les fonctions serverless qui doivent générer du texte à la demande. Assurez-vous que votre code gère correctement l'objet de réponse pour extraire le contenu.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Réponses en streaming avec SSE

Activez le streaming en définissant le paramètre stream à true dans votre requête. Le serveur envoie des fragments de texte à mesure qu'ils sont générés, permettant une perception de latence plus faible. Chaque fragment inclut des données d'utilisation des jetons dans la dernière pièce. Cette fonctionnalité est essentielle pour les interfaces utilisateur qui affichent du texte de manière progressive. Vous pouvez analyser le flux Server-Sent Events pour mettre à jour l'interface utilisateur en temps réel. Cela réduit considérablement le temps d'attente pour les sorties longues.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limites, erreurs et contexte

Notre API impose des limites strictes mais équitables pour assurer la stabilité. Vous bénéficiez de 300 requêtes par minute et d'une concurrence de 8 requêtes simultanées par clé. La fenêtre de contexte prend en charge 100,000 tokens pour le prompt et la complétion combinés. Le débit maximum par requête est de 16,000 tokens, sauf si vous spécifiez une limite inférieure. Les erreurs incluent 401 pour les clés incorrectes, 402 pour un crédit faible, et 429 pour les limites de taux. Les corps de requête doivent rester inférieurs à 8 Mo. Ces contraintes sont transparentes et cohérentes.