无审查端点集成指南
通过更改基础 URL 和 API 密钥,将此无审查的 LLM 集成到您的现有代码中。您保留业务逻辑,我们负责无过滤的推理。
基础 URL 和认证
首先将您的 OpenAI 兼容客户端指向我们的端点。将标准基础 URL 替换为 https://api.llmgatewayopensource.com/v1 并将你的 API 密钥交换到授权头中。这一单一更改将流量重定向至我们的无审查模型,而无需修改你的应用程序逻辑。你可以通过 Google 或电子邮件在仪表板中生成密钥。每个账户持有一个活跃密钥,生成新密钥将立即替换旧密钥。无需配置文件或复杂的路由层。
发起首次请求
发送标准聊天补全负载以立即测试连接。端点接受文本输入并返回生成的文本,且对合法成人用途不进行内容拒绝。您可以通过检查生成的文本字段来验证回复。无效密钥等错误返回 401,额度不足返回 402。使用此简单命令确认您的设置在集成到主要工作流之前正常工作。
curl https://api.llmgatewayopensource.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
}'
使用 Python SDK
安装官方库并使用我们的基础 URL 和密钥初始化它。这种方法允许您重用熟悉的代码模式,同时访问 uncensored 模型。客户端自动处理序列化和流式传输。您可以设置 temperature 或 top_p 等参数来控制创造性。这种方法非常适合需要可靠文本生成的后端服务或脚本。传递模型 ID uncensored 以确保您访问的是正确的端点。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
与 Node.js 集成
在 Node 环境中使用基础 URL 和 API 密钥初始化客户端。此设置支持标准 JSON 响应和流式事件。您可以像对待其他供应商一样传递系统提示或用户消息。该库高效地管理连接生命周期。这是 Web 服务器或无服务器函数在需要按需生成文本时的首选方法。确保您的代码正确处理响应对象以提取内容。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
带有 SSE 的流式响应
通过在请求中将 stream 参数设置为 true 启用流式传输。服务器按生成顺序发送文本数据块,从而降低延迟感知。每个数据块在最后一部分中包含令牌使用数据。此功能对于逐步显示文本的用户界面至关重要。您可以解析服务器发送事件流以实时更新 UI。它显著减少了长输出的等待时间。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
限制、错误和上下文
我们的 API 强制执行严格但公平的限制以确保稳定性。每个密钥每分钟可获得 300 次请求,并发上限为 8 个同时请求。上下文窗口支持总计 100,000 个 token,包括提示和补全。每次请求的最大输出为 16,000 个 token,除非您指定较低的限制。错误包括:401 表示密钥错误,402 表示余额低,429 表示速率限制。请求体必须小于 8 MB。这些限制透明且一致。
常见问题
LLM 网关的开源定价结构是什么?
我们按每 1M 输入令牌收取 $0.15,每 1M 输出令牌收取 $0.50。您只为使用的部分付费,使用永不过期的预付费额度。错误和拒绝不会消耗您的信用额度。
这是适合 NSFW 内容的无审查 LLM 吗?
是的,该模型不会拒绝合法的成人、虚构或争议性话题。它不是 GPT、Claude 或其他任何供应商的模型。唯一的硬性限制是涉及未成年人的性内容始终会被拒绝。
我可以使用此 API 作为 openai 兼容 API 端点吗?
完全正确。它遵循标准的 chat-completions 格式。您只需在现有代码中更改 base URL 和 API 密钥即可。它与官方 SDK 以及任何兼容的客户端均兼容。