Przewodnik integracyjny z punktem końcowym bez ograniczeń

Bazowy URL i autoryzacja

Zacznij od wskazania swojego klienta kompatybilnego z OpenAI na nasz punkt końcowy. Zastąp standardowy bazowy adres URL https://api.llmgatewayopensource.com/v1 i zamień klucz API w nagłówku autoryzacji. Ta pojedyncza zmiana przekieruje ruch do naszego modelu bezcenzurowanego bez modyfikacji logiki aplikacji. Klucze generujesz za pomocą Google lub e-maila w panelu. Każde konto posiada jeden aktywny klucz, który natychmiast zastępuje poprzedni. Nie są wymagane pliki konfiguracyjne ani złożone warstwy routingu.

Wykonywanie pierwszego żądania

Standardowy payload chat completion, aby natychmiast przetestować łączność. Endpoint akceptuje wejście tekstowe i zwraca wygenerowany tekst bez odmów treści dla legalnego użytku dorosłego. Możesz zweryfikować odpowiedź, sprawdzając pole wygenerowanego tekstu. Błędy takie jak nieprawidłowe klucze zwracają 401, a niewystarczający kredyt zwraca 402. Użyj tej prostej komendy, aby potwierdzić, że Twoja konfiguracja działa przed integracją z głównym workflow.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Korzystanie z SDK Python

Zainstaluj oficjalną bibliotekę i zainicjuj ją naszym adresem URL bazowym i swoim kluczem. To podejście pozwala Ci ponownie wykorzystać znane wzorce kodu, uzyskując dostęp do modelu uncensored. Klient automatycznie obsługuje serializację i strumieniowanie. Możesz ustawić parametry takie jak temperatura lub top_p, aby kontrolować kreatywność. Ta metoda jest idealna dla usług backendowych lub skryptów, które wymagają niezawodnego generowania tekstu. Przekaż identyfikator modelu uncensored aby zapewnić trafienie we właściwy punkt końcowy.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integracja z Node.js

Zainicjuj klienta, podając base URL i swój klucz API w środowisku Node. To ustawienie obsługuje zarówno standardowe odpowiedzi JSON, jak i zdarzenia strumieniowe. Możesz przekazać prompty systemowe lub wiadomości użytkownika tak samo, jak w przypadku innych dostawców. Biblioteka efektywnie zarządza cyklem życia połączenia. Jest to preferowana metoda dla serwerów sieciowych lub funkcji serverless, które muszą generować tekst na żądanie. Upewnij się, że Twój kod poprawnie obsługuje obiekt odpowiedzi, aby wyodrębnić zawartość.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie odpowiedzi z SSE

Włącz strumieniowanie, ustawiając parametr stream na true w żądaniu. Serwer wysyła fragmenty tekstu, gdy są generowane, co pozwala na niższe postrzeganie opóźnień. Każdy fragment zawiera dane o użyciu tokenów w ostatnim elemencie. Funkcja ta jest niezbędna dla interfejsów użytkownika, które wyświetlają tekst stopniowo. Możesz analizować strumień zdarzeń wysyłanych serwerowo (SSE), aby aktualizować interfejs użytkownika w czasie rzeczywistym. Znacznie skraca czas oczekiwania na długie odpowiedzi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, błędy i kontekst

Nasze API narzuca ścisłe, ale sprawiedliwe limity, aby zapewnić stabilność. Masz do dyspozycji 300 żądań na minutę i współbieżność 8 jednoczesnych żądań na klucz. Okno kontekstowe obsługuje 100 000 tokenów łącznie dla promptu i uzupełnienia (completion). Maksymalna liczba tokenów wyjściowych na żądanie to 16 000, chyba że określisz niższy limit. Błędy obejmują 401 dla nieprawidłowych kluczy, 402 dla niskiego salda i 429 dla limitów żądań. Rozmiar ciała żądania musi wynosić mniej niż 8 MB. Te ograniczenia są przejrzyste i spójne.