Hurtig start: Uncensored LLM API-integration

Installer OpenAI SDK

Start med at tilføje det officielle bibliotek til dit projekt. Dette sikrer kompatibilitet med standardparametre som temperature og top_p. Biblioteket håndterer serialisering automatisk.

• Understøtter Python- og JavaScript-miljøer.
• Håndterer connection pooling effektivt.
• Forbliver kompatibel med standard OpenAI-kompatible API-strukturer.

Installer pakken med din foretrukne pakkehåndtering. Dette trin forbereder dit miljø til øjeblikkelig integration.

Du behøver ikke en specifik version til grundlæggende tekstgenerering. Biblioteket understøtter standard autentifikationsheaders sømløst.

Konfigurer din base URL

Peg din klient mod vores endpoint for at omgå standard indholdsfiltere. Brug base URL https://api.openaipricingapi.com/v1 til alle anmodninger. Denne enkelt ændring omdirigerer trafik til vores ubegrænsede LLM-infrastruktur.

Indstil din API-nøgle i standard Authorization header. Indtast nøglen, du har modtaget fra dashboardet. Klienten validerer legitimationsoplysninger, før data sendes.

Sørg for, at du bruger model-ID'et uncensored for optimal ydeevne. Denne identifikator fortæller serveren, hvilken model, der skal route din anmodning til. Ingen andre model-ID'er understøttes.

Lav din første chat-completion

Send en simpel besked for at verificere forbindelsen. Brug standard chat-completion endepunktet med et system prompt og brugerbesked. Svaret returnerer tekst direkte.

Tjek statuskoden for at bekræfte succes. En 200 OK-status indikerer, at anmodningen blev behandlet korrekt. Fejl returnerer specifikke koder til fejlfinding.

Gennemse outputtet for nøjagtighed. Modellen svarer uden at afvise lovligt voksent indhold. Test med forskellige emner for at verificere adfærd.

Aktiver Streaming og Funktionskald

Aktivér streaming for at modtage tokens i realtid. Indstil stream=True i din anmodning. Klienten udsender chunks, når de bliver tilgængelige. Dette reducerer den opfattede forsinkelse betydeligt.

Få adgang til funktionssamtaler ved at definere værktøjer i din payload. Modellen returnerer strukturerede argumenter til eksekvering. Fortolk JSON-outputtet for at udløse din backend-logik.

Kombinér streaming med værktøjer til komplekse arbejdsgange. Håndter delvise svar behændigt. Sørg for, at din kode behandler den sidste chunk for token-tællinger.

Håndter tokens og brugsdata

Overvåg tokenforbrug for at håndtere din forudbetalte kredit. API'et opkraver $0.15 per 1M input tokens og $0.50 per 1M output tokens. Fejl forbruger ikke kredit.

Parser forbrugsdataene fra den sidste streaming-chunk. Dette giver præcise input- og outputoptællinger. Spor omkostninger i dine applikationslogs.

Refusioner gælder kun for faktureringsfejl. Kredit udløber aldrig efter køb. Brug forbrugsdata til at forudsige fremtidige udgifter præcist.

Forstå ratebegrænsninger og fejl

Forvent en 429 fejl, hvis du overskrider 300 requests i minuttet. Throttle din klient for at undgå afbrydelser. Samtidige requests er begrænset til 8 per nøgle.

A 401 fejl indikerer en ugyldig eller manglende API-nøgle. Verificer dine legitimationsoplysninger i dashboardet. En 402 fejl betyder, at din forudbetalte saldo er opbrugt.

Kontekstvinduet understøtter i alt 100.000 tokens. Anmodninger, der overstiger denne grænse, returnerer en fejl. Juster din payload-størrelse tilsvarende for at opretholde ydeevnen.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)