Uncensored uç noktası için entegrasyon rehberi

Temel URL ve kimlik doğrulama

OpenAI-uyumlu istemcinizi uç noktamıza işaret ederek başlayın. Standart temel URL'yi https://api.llmgatewayopensource.com/v1 ve API anahtarınızı yetkilendirme başlığına yerleştirin. Bu tek değişiklik, uygulama mantığınızı değiştirmeden trafiği sansürsüz modelimize yönlendirir. Anahtarları panelde Google veya e-posta ile oluşturursunuz. Her hesapta önceki anahtarı anında değiştiren tek bir aktif anahtar bulunur. Karmaşık yapılandırma dosyalarına veya karmaşık yönlendirme katmanlarına gerek yoktur.

İlk isteğinizi yapmak

Bağlantıyı hemen test etmek için standart bir chat completion yükü gönderin. Uç nokta, yasal yetişkin kullanım için içerik reddiyeleri olmadan metin girişi kabul eder ve oluşturulan metni döndürür. Oluşturulan metin alanını kontrol ederek yanıtı doğrulayabilirsiniz. Geçersiz anahtarlar gibi hatalar 401 döndürürken, yetersiz kredi 402 döndürür. Kurulumunuzun ana iş akışınıza entegre etmeden önce çalıştığını onaylamak için bu basit komutu kullanın.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Python SDK'sını kullanma

Resmi kütüphaneyi yükleyin ve temel URL'miz ile anahtarınız ile başlatın. Bu yaklaşım, uncensored modele erişirken tanıdık kod kalıplarını yeniden kullanmanızı sağlar. İstemci seri hale getirme ve akış işlemlerini otomatik olarak yönetir. Yaratıcılığı kontrol etmek için sıcaklık veya top_p gibi parametreleri ayarlayabilirsiniz. Bu yöntem, güvenilir metin üretimi gerektiren arka uç hizmetleri veya betikler için idealdir. Model kimliğini uncensored doğru uç noktaya ulaştığınızdan emin olmak için.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js ile Entegrasyon

İstemciyi Node ortamınızda temel URL ve API anahtarınızı kullanarak başlatın. Bu kurulum, standart JSON yanıtlarını ve akış olaylarını destekler. Diğer sağlayıcılarla yapacağınız gibi sistem ipuçlarını veya kullanıcı mesajlarını iletebilirsiniz. Kütüphane bağlantı yaşam döngüsünü verimli bir şekilde yönetir. Bu, talep üzerine metin üretmesi gereken web sunucuları veya sunucusuz işlevler için tercih edilen yöntemdir. İçeriği çıkarmak için kodunuzun yanıt nesnesini doğru şekilde işlediğinden emin olun.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SSE ile akış yanıtlar

İsteğinizde stream parametresini true olarak ayarlayarak akış özelliğini etkinleştirin. Sunucu, oluşturuldukları gibi metin parçalarını gönderir, bu da daha düşük gecikme algısına olanak tanır. Her parça, son parçada token kullanım verilerini içerir. Bu özellik, metni aşamalı olarak görüntüleyen kullanıcı arayüzleri için gereklidir. UI'yi gerçek zamanlı olarak güncellemek için Sunucu Tarafından Gönderilen Olaylar akışını ayrıştırabilirsiniz. Uzun çıktılar için bekleme süresini önemli ölçüde azaltır.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limitler, hatalar ve bağlam

API'miz, kararlılığı sağlamak için sıkı ama adil limitler uygular. Dakikada 300 istek ve anahtar başına eş zamanlı 8 eşzamanlı istek alırsınız. Bağlam penceresi, hem istem hem de tamamlama için toplam 100.000 token destekler. İstek başına maksimum çıktı, daha düşük bir sınır belirtmediğiniz sürece 16.000 token'dır. Hatalar arasında kötü anahtarlar için 401, düşük kredi için 402 ve hız limitleri için 429 bulunur. İstek gövdeleri 8 MB altında kalmalıdır. Bu kısıtlamalar şeffaf ve tutarlıdır.