uncensored 엔드포인트 통합 가이드
베이스 URL과 API 키를 변경하여 기존 코드에 이 비검열 LLM을 삽입하세요. 로직은 유지하고 우리는 필터링 없는 추론을 처리합니다.
Base URL 및 인증
OpenAI 호환 클라이언트를 당사 엔드포인트에 연결하세요. 표준 기본 URL을 다음으로 바꾸세요 https://api.llmgatewayopensource.com/v1 API 키를 인증 헤더에 삽입합니다. 이 단일 변경으로 애플리케이션 로직을 수정하지 않고도 트래픽을 비차별 모델로 리디렉션합니다. 대시보드에서 Google 또는 이메일을 통해 키를 생성합니다. 각 계정에는 이전 키를 즉시 대체하는 활성 키가 하나만 보유됩니다. 구성 파일이나 복잡한 라우팅 레이어가 필요하지 않습니다.
첫 번째 요청 수행하기
연결성을 즉시 테스트하려면 표준 채팅 완료 페이로드를 보내세요. 엔드포인트는 텍스트 입력을 받아 합법적인 성인 사용에 대한 콘텐츠 거부 없이 생성된 텍스트를 반환합니다. 생성된 텍스트 필드를 확인하여 응답을 확인할 수 있습니다. 유효하지 않은 키의 경우 401이 반환되고, 크레딧이 부족하면 402가 반환됩니다. 메인 워크플로우에 통합하기 전에 설정이 제대로 작동하는지 확인하려면 이 간단한 명령을 사용하세요.
curl https://api.llmgatewayopensource.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
}'
Python SDK 사용
공식 라이브러리를 설치하고 기본 URL과 키로 초기화하세요. 이 방법은 익숙한 코드 패턴을 재사용하면서 uncensored 모델에 접근할 수 있게 해줍니다. 클라이언트는 직렬화 및 스트리밍을 자동으로 처리합니다. temperature 또는 top_p와 같은 매개변수를 설정하여 창의성을 제어할 수 있습니다. 이 방법은 안정적인 텍스트 생성이 필요한 백엔드 서비스나 스크립트에 이상적입니다. 모델 ID를 전달 uncensored 올바른 엔드포인트에 접근하도록 보장합니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Node.js와 통합하기
Node 환경에서 기본 URL과 API 키를 사용하여 클라이언트를 초기화하세요. 이 설정은 표준 JSON 응답과 스트리밍 이벤트를 모두 지원합니다. 다른 벤더와 마찬가지로 시스템 프롬프트나 사용자 메시지를 전달할 수 있습니다. 라이브러리는 연결 수명을 효율적으로 관리합니다. 이는 필요에 따라 텍스트를 생성해야 하는 웹 서버나 서버리스 함수에 권장되는 방법입니다. 콘텐츠 추출을 위해 응답 객체를 올바르게 처리하세요.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
SSE를 통한 스트리밍 응답
요청에서 stream 파라미터를 true로 설정하여 스트리밍을 활성화하세요. 서버는 생성되는 대로 텍스트 청크를 전송하여 낮은 지연 시간 지각을 가능하게 합니다. 각 청크에는 최종 조각에 토큰 사용량 데이터가 포함됩니다. 이 기능은 텍스트를 점진적으로 표시하는 사용자 인터페이스에 필수적입니다. 서버 전송 이벤트 스트림을 파싱하여 UI를 실시간으로 업데이트할 수 있습니다. 긴 출력에 대한 대기 시간을 크게 줄입니다.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
제한 사항, 오류 및 컨텍스트
API는 안정성을 위해 엄격하지만 공정한 제한을 적용합니다. 키당 분당 300회 요청 및 동시 8회 요청이 가능합니다. 컨텍스트 윈도우는 프롬프트와 완료(combined)를 합쳐 100,000 토큰을 지원합니다. 요청당 최대 출력은 16,000 토큰이며, 더 낮은 제한을 지정하지 않는 한 적용됩니다. 에러에는 잘못된 키에 대한 401, 낮은 크레딧에 대한 402, 속도 제한에 대한 429가 포함됩니다. 요청 본문은 8MB 미만이어야 합니다. 이러한 제약은 투명하고 일관됩니다.
자주 묻는 질문
LLM 게이트웨이 오픈소스 요금제 구조는 무엇인가?
1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50의 요금을 부과합니다. 만료되지 않는 선불 크레딧으로 사용한 만큼만 지불합니다. 오류와 거부는 크레딧을 소모하지 않습니다.
NSFW 콘텐츠에 적합한 무검열 LLM입니까?
예, 이 모델은 합법적인 성인, 픽션, 논쟁적 주제를 거부하지 않습니다. GPT, Claude 또는 기타 벤더 모델이 아닙니다. 유일한 엄격한 제한은 미성년자가 관련된 성 콘텐츠가 항상 거부된다는 것입니다.
이것을 openai 호환 API 엔드포인트로 사용할 수 있나요?
물론입니다. 표준 chat-completions 형식을 따릅니다. 기존 코드의 베이스 URL과 API 키만 변경하면 됩니다. 공식 SDK 및 호환 가능한 클라이언트 모두에서 작동합니다.