Οδηγός ενσωμάτωσης για το uncensored endpoint
Εισάγετε αυτό το uncensored LLM στον υπάρχοντα κώδικά σας αλλάζοντας το base URL και το API key. Διατηρείτε τη λογική σας, εμείς διαχειριζόμαστε το unfiltered inference.
Βασικό URL και αυθεντικοποίηση
Ξεκινήστε κατευθύνοντας τον πελάτη σας στο endpoint μας. Αντικαταστήστε το τυπικό base URL με https://api.llmgatewayopensource.com/v1 και αντικαταστήστε το API key σας στην κεφαλίδα εξουσιοδότησης. Αυτή η μοναδική αλλαγή κατευθύνει την κίνηση στο μοντέλο μας χωρίς uncensored λογοκρισία, χωρίς να αγγίξετε τη λογική της εφαρμογής σας. Δημιουργείτε κλειδιά μέσω Google ή email στο dashboard. Κάθε λογαριασμός διατηρεί ένα ενεργό κλειδί που αντικαθιστά το προηγούμενο άμεσα. Δεν απαιτούνται αρχεία διαμόρφωσης ή πολύπλοκα στρώματα δρομολόγησης.
Κάντε την πρώτη αίτηση
Στείλτε ένα τυπικό payload chat completion για να δοκιμάσετε αμέσως τη σύνδεση. Το endpoint δέχεται κειμενική είσοδο και επιστρέφει παραγόμενο κείμενο χωρίς απορρίψεις περιεχομένου για νόμιμη χρήση για ενήλικες. Μπορείτε να επαληθεύσετε την απάντηση ελέγχοντας το πεδίο generated text. Σφάλματα όπως μη έγκυρα keys επιστρέφουν 401, ενώ ανεπαρκές credit επιστρέφει 402. Χρησιμοποιήστε αυτή την απλή εντολή για να επιβεβαιώσετε ότι η ρύθμισσή σας λειτουργεί πριν την ενσωματώσετε στην κύρια ροή εργασίας σας.
curl https://api.llmgatewayopensource.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
}'
Χρήση του Python SDK
Εγκαταστήστε την επίσημη βιβλιοθήκη και αρχικοποιήστε την με το base URL και το key σας. Αυτή η προσέγγιση σας επιτρέπει να επαναχρησιμοποιείτε γνωστά μοτίβα κώδικα ενώ αποκτάτε πρόσβαση στο uncensored μοντέλο. Ο πελάτης διαχειρίζεται αυτόματα τη σειριοποίηση και το streaming. Μπορείτε να ορίσετε παραμέτρους όπως temperature ή top_p για να ελέγξετε τη δημιουργικότητα. Αυτή η μέθοδος είναι ιδανική για υπηρεσίες backend ή σενάρια που χρειάζονται αξιόπιστη δημιουργία κειμένου. Δώστε το model ID uncensored για να διασφαλιστεί ότι χτυπάτε το σωστό endpoint.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Ενσωμάτωση με Node.js
Εκκινήστε τον πελάτη χρησιμοποιώντας τη βάση URL και το κλειδί API σας στο περιβάλλον Node. Αυτή η ρύθμιση υποστηρίζει τόσο τυπικές αποκρίσεις JSON όσο και streaming events. Μπορείτε να περάσετε system prompts ή user messages όπως θα κάνατε με άλλους παρόχους. Η βιβλιοθήκη διαχειρίζεται αποτελεσματικά τον κύκλο ζωής της σύνδεσης. Αυτή είναι η προτεινόμενη μέθοδος για web servers ή serverless functions που χρειάζονται παραγωγή κειμένου κατ' απαίτηση. Βεβαιωθείτε ότι ο κώδικάς σας διαχειρίζεται σωστά το αντικείμενο απόκρισης για να εξαγάγει το περιεχόμενο.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Ροή αποκρίσεων με SSE
Ενεργοποιήστε τη ροή (streaming) ρυθμίζοντας την παράμετρο stream σε true στο αίτημά σας. Ο διακομιστής στέλνει chunks κειμένου καθώς παράγονται, επιτρέποντας αντίληψη χαμηλότερης καθυστέρησης. Κάθε chunk περιλαμβάνει δεδομένα χρήσης token στο τελευταίο κομμάτι. Αυτή η λειτουργία είναι απαραίτητη για διεπαφές χρήστη που εμφανίζουν κείμενο προοδευτικά. Μπορείτε να αναλύσετε τη ροή Server-Sent Events για να ενημερώσετε το UI σε πραγματικό χρόνο. Μειώνει σημαντικά τον χρόνο αναμονής για μεγάλες εξόδους.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Όρια, σφάλματα και context
Η API μας επιβάλλει αυστηρά αλλά δίκαια όρια για να διασφαλίσει τη σταθερότητα. Έχετε 300 αιτήματα ανά λεπτό και ταυτόχρονη εκτέλεση 8 ταυτόχρονων αιτήσεων ανά κλειδί. Το παράθυρο συνάφειας υποστηρίζει 100,000 tokens για συνδυασμό prompt και ολοκλήρωσης. Μέγιστη έξοδος ανά αίτηση 16,000 tokens εκτός αν ορίσετε χαμηλότερο όριο. Τα σφάλματα περιλαμβάνουν 401 για λανθασμένα κλειδιά, 402 για χαμηλό υπόλοιπο και 429 για όρια ρυθμού. Τα σώματα αιτημάτων πρέπει να παραμένουν κάτω από 8 MB. Αυτοί οι περιορισμοί είναι διαφανείς και συνεπείς.
Συχνές ερωτήσεις
Ποια είναι η δομή τιμολόγησης ανοιχτού κώδικα LLM gateway;
Χρεώνουμε $0.15 ανά 1M input tokens και $0.50 ανά 1M output tokens. Πληρώνετε μόνο για όσα χρησιμοποιείτε με προπληρωμένο credit που λήγει ποτέ. Τα σφάλματα και τα refusals δεν καταναλώνουν τα credits σας.
Αυτή είναι μια LLM χωρίς λογοκρισία κατάλληλη για περιεχόμενο NSFW;
Ναι, το μοντέλο δεν αρνείται νόμιμα, φανταστικά ή αμφιλεγόμενα θέματα. Δεν είναι GPT, Claude ή κάποιο άλλο μοντέλο παρόχου. Το μόνο αυστηρό όριο είναι ότι το σεξουαλικό περιεχόμενο που αφορά ανηλίκους απορρίπτεται πάντα.
Μπορώ να χρησιμοποιήσω αυτό ως endpoint διεπαφής συμβατής με OpenAI;
Απολύτως. Ακολουθεί το τυπικό format chat-completions. Απλώς αλλάζετε τη base URL και το API key στον υπάρχοντα κώδικά σας. Λειτουργεί με τα επίσημα SDK και οποιοδήποτε συμβατό client.
Λάβετε το API key σας
Εγγραφείτε, αποκτήστε το κλειδί σας, ενημερώστε τη βάση URL. Αυτό είναι.
Δημιουργήστε κλειδιά