Integraatio-opas uncensored-päätepisteelle

Perus-URL ja todennus

Aloita osoittamalla OpenAI-yhteensopiva asiakasohjelmistosi päätepisteeseemme. Korvaa standardi perusosoite https://api.llmgatewayopensource.com/v1 ja vaihda API-avaimesi valtuutusotsakkeeseen. Tämä yksittäinen muutos ohittaa liikenteen uncensored-mallillemme koskematta sovelluslogiikkaasi. Luo avaimet Google-tilillä tai sähköpostilla hallintapaneelissa. Jokaisella tilillä on yksi aktiivinen avain, joka korvaa edellisen välittömästi. Ei tarvitse konfiguraatiotiedostoja tai monimutkaisia reititystasoja.

Ensimmäisen pyynnön tekeminen

Lähetä vakio chat-completion payload yhteyden välittömään testaamiseen. Päätepiste hyväksyy teksti sisääntulon ja palauttaa luodun tekstin ilman sisältökieltäytymisiä lailliseen aikuis käyttöön. Voit vahvistaa vastauksen tarkistamalla luodun tekstin kentän. Virheet kuten virheelliset avaimet palauttavat 401, kun taas riittämätön krediitti palauttaa 402. Käytä tätä yksinkertaista komentoa vahvistaaksesi, että asennuksesi toimii ennen integrointia päätyövuokoon.

Copycurl https://api.llmgatewayopensource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in this Python loop."}]
  }'

Python SDK:n käyttäminen

Asenna virallinen kirjasto ja alusta se base URL:llämme ja avaimellasi. Tämä mahdollistaa tutkittujen koodikuvioitten uudelleenkäytön samalla kun pääset käsiksi uncensored-malliin. Asiakasohjelmisto hoitaa serialisoinnin ja streamauksen automaattisesti. Voit asettaa parametreja kuten temperature tai top_p hallitaksesi luovuutta. Tämä menetelmä on ihanteellinen taustapalveluille tai skripteille, jotka tarvitsevat luotettavaa tekstin tuotantoa. Syötä mallin tunnus uncensored varmistamaan, että osut oikeaan päätepisteeseen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmgatewayopensource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integrointi Node.js:n kanssa

Alusta asiakasohjelma base URL:n ja API-avaimen avulla Node-ympäristössäsi. Tämä kokoonpano tukee sekä vakioita JSON-vastauksia että streamaus-tapahtumia. Voit välittää järjestelmäkehotteita tai käyttäjiviestejä aivan kuten muiden toimittajien kohdalla. Kirjasto hallitsee yhteyden elinkaaren tehokkaasti. Tämä on suositeltu menetelmä web-palvelimille tai serverless-funktioille, jotka tarvitsevat tekstigenerointia tarpeen mukaan. Varmista, että koodisi käsittelee vastausobjektin oikein sisällön purkamiseksi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmgatewayopensource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strimausvastaukset SSE:n kautta

Ota käyttöön streamaus asettamalla stream-parametri arvoksi true pyynnössä. Palvelin lähettää tekstilohkoja niiden tuotannon aikana, mikä mahdollistaa matalamman viiveen havainnon. Jokainen lohko sisältää tokenkäyttötiedot viimeisessä osassa. Tämä ominaisuus on olennainen käyttöliittymille, jotka näyttävät tekstiä asteittain. Voit jäsentää Server-Sent Events -virran päivittääksesi käyttöliittymän reaaliajassa. Se vähentää odotusaikaa pitkiin tuloksiin merkittävästi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rajoitukset, virheet ja konteksti

APIemme asettaa tiukat mutta reilut rajat varmistamaan vakauden. Saat 300 pyyntöä minuutissa ja 8 samanaikaisen pyynnön per avain. Kontekstiikkuna tukee yhteensä 100,000 tokenia sekä promptille että täydennykselle. Maksimitulostus pyyntöä kohden on 16,000 tokenia, ellei määritä alempaa rajaa. Virheet sisältävät 401 virheellisille avaimille, 402 alhaiselle saldotasolle ja 429 nopeusrajoille. Pyyntörungon koon on pysyttävä alle 8 MB. Nämä rajoitteet ovat läpinäkyviä ja johdonmukaisia.