Pika-aloitus: Uncensored LLM API -integrointi

Asenna OpenAI SDK

Aloita lisäämällä virallinen kirjasto projektiisi. Tämä varmistaa yhteensopivuuden standardiparametrien kuten lämpötilan ja top_p:n kanssa. Kirjasto käsittelee serialisoinnin automaattisesti.

• Tukee Python- ja JavaScript-ympäristöjä.
• Hallitsee yhteyksien puskuroinnin tehokkaasti.
• Pysyy yhteensopivana standardien OpenAI-yhteensopivien API-rakenteiden kanssa.

Asenna paketti haluamallasi paketinhallintajärjestelmällä. Tämä vaihe valmistelee ympäristösi välittömään integraatioon.

Et tarvitse tiettyä versiota perustekstigenointiin. Kirjasto tukee standardia autentikointipääteitä saumattomasti.

Määritä base URL

Ohjaa asiakasohjelmistosi päätepisteeseemme ohittaaksesi standardit sisältösuodattimet. Käytä base URL -osoitetta https://api.openaipricingapi.com/v1 kaikkiin pyyntöihin. Tämä yksittäinen muutos ohittaa liikenteen sensuroimattomalle LLM-infrastruktuurillemme.

Aseta API-avaimesi standardiin Authorization header. Syötä dashboardista saamasi avain. Asiakasohjelmisto varmentaa tunnistetiedot ennen datan lähettämistä.

Varmista, että käytät mallitunnusta uncensored optimaaliseen suorituskykyyn. Tämä tunniste kertoo palvelimelle, mihin malliin pyyntösi ohjataan. Muuta mallitunnusta ei tueta.

Tee ensimmäinen chat-completion

Lähetä yksinkertainen viesti yhteensopivuuden varmistamiseksi. Käytä standardia chat-completion-päätepistettä järjestelmäpromptilla ja käyttäjäviestillä. Vastaus palauttaa tekstin suoraan.

Tarkista tilakoodi vahvistaaksesi onnistumisen. 200 OK -tilakoodi tarkoittaa, että pyyntö käsiteltiin oikein. Virheet palauttavat tarkkoja koodeja vianetsintää varten.

Tarkista tulosteen tarkkuus. Malli vastaa ilman hylkäyksiä lailliseen aikuis sisältöön. Testaa monipuolisilla aiheilla varmistaaksesi käyttäytymisen.

Ota käyttöön suoratoisto ja toimintokutsut

Ota suoratoisto käyttöön vastaanottaaksesi tokenit reaaliajassa. Aseta stream=True pyynnössäsi. Asiakas tuottaa osia niiden saatavilla ollessa. Tämä vähentää huomattavasti koettua viivettä.

Pääsy toimintokutsuihin määrittelemällä työkaluja kuormassasi. Malli palauttaa rakenteelliset argumentit suoritusta varten. Jäsentele JSON-tuloste laukaaksesi backend-logiikkasi.

Yhdistä streamaus työkaluihin monimutkaisia työvuoroja varten. Käsittele osittaiset vastaukset joustavasti. Varmista, että koodisi käsittelee viimeisen palikan token-laskurien saamiseksi.

Käsittele tokenit ja käyttödata

Seuraa token-käyttöä hallitaksesi esimaksukredittiäsi. API laskuttaa $0.15 per 1M input tokens and $0.50 per 1M output tokens. Virheet eivät kuluta saldoa.

Jaa käyttödata viimeisestä streamauspalstasta. Tämä tarjoaa tarkan syöte- ja tulostemäärän. Seuraa kustannuksia sovelluksesi lokitiedostoissa.

Hyvitykset koskevat vain laskutusvirheitä. Saldon vanheneminen ei koske ostettua saldoa. Käytä käyttödataa ennustaaksesi tulevia kuluja tarkasti.

Ymmärrä nopeusrajoitukset ja virheet

Oleta 429 virhe, jos ylität 300 pyyntöä minuutissa. Throttle asiakasta välttääksesi keskeytykset. Samanaikaisia pyyntöjä on rajoitettu 8:aan avainta kohden.

A 401 virhe tarkoittaa virallista tai puuttuvaa API-avainta. Varmista kirjautumistietosi hallintapaneelissa. A 402 virhe tarkoittaa, että esimaksutaseesi on loppu.

Konteksti-ikkuna tukee yhteensä 100 000 tokenia. Tämän rajan ylittävät pyynnöt palauttavat virheen. Säädä pyyntösi kokoa vastaavaksi ylläpitääksesi suorituskykyä.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)