Руководство по интеграции с конечной точкой без цензуры

Базовый URL и аутентификация

Начните с указания вашего клиента, совместимого с OpenAI, на наш эндпоинт. Замените стандартный базовый URL на https://api.llmgatewayopensource.com/v1 и замените API-ключ в заголовке авторизации. Это единственное изменение перенаправляет трафик на нашу uncensored-модель без изменения логики вашего приложения. Вы генерируете ключи через Google или email в панели управления. У каждой учетной записи есть один активный ключ, который мгновенно заменяет предыдущий. Не требуются файлы конфигурации или сложные слои маршрутизации.

Выполнение первого запроса

Отправьте стандартный полезный запрос chat completion для немедленной проверки подключения. Конечный пункт принимает текстовый ввод и возвращает сгенерированный текст без отказов по контенту для законного использования. Вы можете проверить ответ, проверив сгенерированное текстовое поле. Ошибки, такие как недействительные ключи, возвращают 401, а недостаточный кредит возвращает 402. Используйте эту простую команду, чтобы подтвердить работоспособность вашей настройки перед интеграцией в основной рабочий процесс.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Использование Python SDK

Установите официальную библиотеку и инициализируйте ее с нашим базовым URL и вашим ключом. Этот подход позволяет вам повторно использовать знакомые шаблоны кода при доступе к uncensored модели. Клиент автоматически обрабатывает сериализацию и потоковую передачу. Вы можете установить параметры, такие как temperature или top_p, чтобы контролировать креативность. Этот метод идеален для бэкенд-сервисов или скриптов, которым нужна надежная генерация текста. Передайте ID модели uncensored чтобы обратиться к правильному эндпоинту.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Интеграция с Node.js

Инициализируйте клиент, указав базовый URL и ваш API-ключ в среде Node. Эта настройка поддерживает как стандартные JSON-ответы, так и потоковые события. Вы можете передавать системные подсказки или сообщения пользователя так же, как и у других поставщиков. Библиотека эффективно управляет жизненным циклом соединения. Это предпочтительный метод для веб-серверов или серверных функций, которым требуется генерация текста по запросу. Убедитесь, что ваш код правильно обрабатывает объект ответа для извлечения контента.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача ответов с SSE

Включите потоковую передачу, установив параметр stream в true в запросе. Сервер отправляет чанки текста по мере их генерации, что создает ощущение меньшей задержки. Каждый чанк включает данные об использовании токенов в последнем фрагменте. Эта функция необходима для пользовательских интерфейсов, отображающих текст постепенно. Вы можете парсить поток событий, отправляемых сервером (SSE), чтобы обновлять пользовательский интерфейс в реальном времени. Это значительно сокращает время ожидания для длинных выводов.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Лимиты, ошибки и контекст

Наш API устанавливает строгие, но справедливые лимиты для обеспечения стабильности. Вы получаете 300 запросов в минуту и параллельность 8 одновременных запросов на ключ. Контекстное окно поддерживает 100,000 токенов как для промпта, так и для завершения (completion). Максимальный вывод на запрос составляет 16,000 токенов, если вы не укажете меньшее значение. Ошибки включают 401 для неверных ключей, 402 для низкого баланса и 429 для лимитов частоты запросов. Тело запроса должно быть меньше 8 МБ. Эти ограничения прозрачны и последовательны.