Посібник з інтеграції uncensored кінцевої точки

Базова URL-адреса та аутентифікація

Почніть із вказівки вашого клієнта, сумісного з OpenAI, на нашу кінцеву точку. Замініть стандартну базову URL-адресу на https://api.llmgatewayopensource.com/v1 і вставте свій API-ключ у заголовок авторизації. Ця єдина зміна перенаправляє трафік на нашу uncensored модель, не торкаючись логіки вашої програми. Ви генеруєте ключі через Google або електронну пошту на панелі керування. Кожен акаунт має один активний ключ, який миттєво замінює попередній. Не потрібні конфігураційні файли чи складні шари маршрутизації.

Зроблення першого запиту

Надішліть стандартний запит chat completion для миттєвого тестування з’єднання. Кінцевий пункт приймає текстовий вхід і повертає згенерований текст без відмов у контенті для законного дорослого використання. Ви можете перевірити відповідь, перевіривши поле згенерованого тексту. Помилки, такі як недійсні ключі, повертають 401, тоді як недостатній кредит повертає 402. Використовуйте цю просту команду, щоб підтвердити, що ваша налаштування працює, перш ніж інтегрувати її у ваш основний робочий процес.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Використання Python SDK

Встановіть офіційну бібліотеку та ініціалізуйте її з нашим базовим URL та вашим ключем. Цей підхід дозволяє повторно використовувати знайомі шаблони коду, отримуючи доступ до uncensored моделі. Клієнт автоматично обробляє серіалізацію та потокову передачу. Ви можете встановити параметри, такі як temperature або top_p, щоб контролювати креативність. Цей метод ідеально підходить для бекенд-сервісів або скриптів, яким потрібна надійна генерація тексту. Передайте ідентифікатор моделі uncensored щоб забезпечити звернення до правильної кінцевої точки.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Інтеграція з Node.js

Ініціалізуйте клієнт, використовуючи базовий URL та ваш API-ключ у середовищі Node. Ця конфігурація підтримує як стандартні JSON-відповіді, так і потокові події. Ви можете передавати системні промпти або повідомлення користувача так само, як і у випадку з іншими постачальниками. Бібліотека ефективно керує життєвим циклом з'єднання. Це переважний метод для веб-серверів або serverless-функцій, яким потрібно генерувати текст за запитом. Переконайтеся, що ваш код правильно обробляє об'єкт відповіді, щоб витягти контент.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача відповідей з SSE

Увімкніть потокову передачу, встановивши параметр stream у true у своєму запиті. Сервер надсилає чанки тексту, як тільки вони генеруються, що дозволяє зменшити сприйняту затримку. Кожен чанк включає дані про використання токенів у фінальному фрагменті. Ця функція є суттєвою для інтерфейсів користувача, які поступово відображають текст. Ви можете парсити потік подій, надісланих сервером (SSE), щоб оновлювати інтерфейс користувача в реальному часі. Це значно зменшує час очікування для довгих виводів.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ліміти, помилки та контекст

Наш API встановлює суворі, але справедливі ліміти для забезпечення стабільності. Ви отримуєте 300 запитів на хвилину та паралельність 8 одночасних запитів на ключ. Контекстне вікно підтримує 100,000 токенів як для запиту, так і для відповіді разом. Максимальний вивід на запит становить 16,000 токенів, якщо ви не вкажете нижчий ліміт. Помилки включають 401 для недійсних ключів, 402 для низького балансу та 429 для лімітів швидкості. Тіло запиту має бути менше 8 МБ. Ці обмеження є прозорими та послідовними.