Quickstart: Integrare API LLM fără cenzură

Instalează SDK-ul OpenAI

Începeți prin a adăuga biblioteca oficială la proiectul dumneavoastră. Acest lucru asigură compatibilitatea cu parametrii standard, cum ar fi temperatura și top_p. Biblioteca gestionează automat serializarea.

• Suportă medii Python și JavaScript.
• Gestionează eficient pool-ul de conexiuni.
• Rămâne compatibil cu structurile standard de API compatibile cu OpenAI.

Instalează pachetul folosind managerul de pachete preferat. Acest pas pregătește mediul pentru integrare imediată.

Nu ai nevoie de o versiune specifică pentru generarea de text de bază. Biblioteca suportă antetele standard de autentificare fără probleme.

Configurați URL-ul de bază

Indreptați clientul către punctul nostru de endpoint pentru a ocoli filtrele standard de conținut. Utilizați URL-ul de bază https://api.openaipricingapi.com/v1 pentru toate solicitările. Această singură modificare redirecționează traficul către infrastructura noastră de LLM fără cenzură.

Configurați cheia API în standardul Authorization header., Transmite cheia obținută din panoul de control. Clientul validează acreditările înainte de a trimite datele.

Asigură-te că folosești ID-ul modelului uncensored pentru performanță optimă. Acest identificator indică serverului către ce model să direcționați solicitarea dvs. Nu sunt suportate alte ID-uri de modele.

Fă prima ta completare chat

Trimiteți un mesaj simplu pentru a verifica conectivitatea. Utilizați endpoint-ul standard de completare chat cu un prompt de sistem și un mesaj de utilizator. Răspunsul returnează text direct.

Verificați codul de stare pentru a confirma succesul. Un status 200 OK indică faptul că cererea a fost procesată corect. Erorile returnează coduri specifice pentru depanare.

Revizuiți output-ul pentru acuratețe. Modelul răspunde fără a refuza conținutul legal pentru adulți. Testați cu subiecte diverse pentru a verifica comportamentul.

Activează Streaming și apelarea de funcții

Activează streaming pentru a primi tokeni în timp real. Setează stream=True în cererea ta. Clientul generează fragmente pe măsură ce devin disponibile. Acest lucru reduce semnificativ latența percepută.

Accesează apelarea de funcții definind instrumente în payload-ul tău. Modelul returnează argumente structurate pentru execuție. Analizează ieșirea JSON pentru a declanșa logica backend-ului tău.

Combină streaming-ul cu instrumentele pentru fluxuri de lucru complexe. Gestionează răspunsurile parțiale cu grijă. Asigură-te că codul tău procesează fragmentul final pentru numerele de tokeni.

Gestionați tokenii și datele de utilizare

Monitorizați utilizarea tokenilor pentru a gestiona creditul preplătit. API percepe $0.15 per 1M tokeni de intrare și $0.50 per 1M tokeni de ieșire. Erorile nu consumă credit.

Analizați datele de utilizare din ultimul fragment de flux. Acest lucru oferă numere precise de intrare și ieșire. Urmăriți costurile în jurnalele aplicației dumneavoastră.

Rambursările se aplică doar pentru erorile de facturare. Creditul nu expiră niciodată după achiziție. Utilizați datele de utilizare pentru a prezice cu precizie cheltuielile viitoare.

Înțelegeți limitele de rată și erorile

Așteptați-vă la un 429 eroare dacă depășiți 300 de cereri pe minut. Limitați clientul pentru a evita întreruperile. Cererile concurente sunt limitate la 8 per cheie.

A 401 eroare indică o cheie API invalidă sau lipsă. Verificați acreditările dvs. în panoul de control. O 402 eroare înseamnă că soldul dvs. preplătit este epuizat.

Fereastra de context suportă un total de 100.000 de tokeni. Cererile care depășesc această limită returnează o eroare. Ajustați dimensiunea payload-ului în consecință pentru a menține performanța.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)