Gyors bevezetés: Uncensored LLM API integráció

Telepítse az OpenAI SDK-t

Kezdje a hivatalos könyvtár hozzáadásával a projekthez. Ez biztosítja a kompatibilitást a szabványos paraméterekkel, mint például a temperature és a top_p. A könyvtár automatikusan kezeli a szerializálást.

• Támogatja a Python és JavaScript környezeteket.
• Hatékonyan kezeli a kapcsolati pufferelést.
• Megőrzi a kompatibilitást a szabványos OpenAI-kompatibilis API struktúrákkal.

Telepítse a csomagot a választott csomagkezelőjével. Ez a lépés előkészíti a környezetet az azonnali integrációhoz.

Nem kell specifikus verzió az alap szöveggeneráláshoz. A könyvtár zökkenőmentesen támogatja a szabványos hitelesítési fejléceket.

Alap URL konfigurálása

Irányítsd a kliensedet a végpontunkra a szabványos tartalomszűrők megkerüléséhez. Használd a base URL-t https://api.openaipricingapi.com/v1 az összes kéréshez. Ez az egyetlen változás a forgalmat a cenzúrázatlan LLM infrastruktúránk felé irányítja.

Állítsd be az API-kulcsot a standard Authorization header. Adja át a műszerfalról szerzett kulcsot. A kliens hitelesíti a hitelesítő adatokat az adatok küldése előtt.

Győződjön meg róla, hogy a modellszámot uncensored a legjobb teljesítményhez. Ez az azonosító megmondja a szervernek, melyik modellre kell irányítania a kérését. Más modellazonosítók nem támogatottak.

Az Első Chat Completion

Küldjön egy egyszerű üzenetet a kapcsolódás ellenőrzéséhez. Használja a szabványos chat-kiegészítési végpontot rendszerprompttal és felhasználói üzenettel. A válasz közvetlenül szöveget ad vissza.

Ellenőrizze a státuskódot a siker megerősítéséhez. A 200 OK státusz jelzi, hogy a kérés helyesen feldolgozódott. A hibák specifikus kódokat adnak vissza a hibakereséshez.

Átektintés: Kimenet pontosságát. A modell válaszol jogszabályba ütköző felnőtt tartalmakra elutasítás nélkül. Tesztelje változatos témákkal a viselkedés ellenőrzéséhez.

Streamelés és függvényhívás engedélyezése

Az adatfolyam aktiválásával a tokeneket valós időben kapod meg. Állítsd be stream=True a kérésben. Az ügyfél töredékeket ad vissza, ahogy azok elérhetővé válnak. Ez jelentősen csökkenti az érzékelt késleltetést.

Hozzáférés függvényhíváshoz eszközök definiálásával a payloadban. A modell strukturált argumentumokat ad vissza a végrehajtáshoz. Elemzze a JSON kimenetet a háttérlogika aktiválásához.

Kombinálja a streamelést az eszközökkel komplex munkafolyamatokhoz. Kezelje gracefully a részleges válaszokat. Győződjön meg róla, hogy a kódja feldolgozza az utolsó darabot a token számokhoz.

Kezelje a tokeneket és a felhasználási adatokat

Figyelje a tokenfelhasználást az előre fizetett kredit kezeléséhez. Az API díjazása $0.15 per 1M bemeneti token és $0.50 per 1M kimeneti token. A hibák nem fogyasztanak hitelt.

Elemzze a felhasználási adatokat a végén streamelt blokkból. Ez pontos bemeneti és kimeneti számlálást biztosít. Kövesse nyomon a költségeket az alkalmazás naplóiban.

A visszatérítések csak számlázási hibákra vonatkoznak. A hitel egyszer megvásárolva sosem jár le. Használja a felhasználási adatokat a jövőbeli kiadások pontos előrejelzéséhez.

Értsd meg a sebességkorlátokat és a hibákat

Várható egy 429 hiba, ha meghaladja a percenkénti 300 kérést. Lassítsa le a kliensét a megszakítások elkerülése érdekében. A párhuzamos kérések száma kulcsonként 8-ra korlátozott.

A 401 hiba érvénytelen vagy hiányzó API-kulcsra utal. Ellenőrizze hitelesítő adatait a műszerfalon. Egy 402 hiba azt jelenti, hogy az előre fizetett egyenleg kimerült.

A kontextusablak 100 000 tokent tesz lehetővé. A korlátot meghaladó kérések hibát adnak vissza. Állítsd a payload méretét ennek megfelelően a teljesítmény fenntartásához.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)