Rychlý start: Integrace API LLM Uncensored

Nainstalujte SDK OpenAI

Začněte přidáním oficiální knihovny do svého projektu. To zajistí kompatibilitu se standardními parametry, jako je teplota a top_p. Knihovna automaticky zpracovává serializaci.

• Podporuje prostředí Pythonu a JavaScriptu.
• Efektivně spravuje sdružování připojení.
• Zůstává kompatibilní se standardními strukturami API kompatibilními s OpenAI.

Nainstalujte balíček pomocí vašeho preferovaného správce balíčků. Tento krok připraví vaše prostředí pro okamžitou integraci.

Pro základní generování textu nepotřebujete specifickou verzi. Knihovna bezproblémově podporuje standardní hlavičky autentizace.

Konfigurujte svou základní URL

Nasměrujte klienta na naši koncovou adresu pro obcházení standardních filtrů obsahu. Použijte základní URL https://api.openaipricingapi.com/v1 pro všechny požadavky. Tato jediná změna přesměruje provoz na infrastrukturu uncensored LLM.

Nastavte svůj klíč API v standardní Authorization hlavička. Předáte klíč, který jste získali z ovládacího panelu. Klient ověří pověření před odesláním dat.

Ujistěte se, že používáte ID modelu uncensored pro optimální výkon. Tento identifikátor říká serveru, ke kterému modelu má směrovat vaši žádost. Jsou podporovány pouze jiné ID modelů.

Provést vaše první dokončení chatu

Pošlete jednoduchou zprávu pro ověření připojení. Použijte standardní koncový bod dokončení chatu s systémovým podnětem a zprávou uživatele. Odpověď vrací text přímo.

Zkontrolujte stavový kód a potvrďte úspěch. Stav 200 OK naznačuje, že požadavek byl zpracován správně. Chyby vracejí specifické kódy pro ladění.

Zkontrolovat přesnost výstupu. Model odpovídá bez odmítání zákonného obsahu pro dospělé. Otestujte s různými tématy pro ověření chování.

Povolit streamování a volání funkcí

Aktivujte streamování pro přijímání tokenů v reálném čase. Nastavte stream=True ve vaší žádosti. Klient vrací chunky, jakmile jsou k dispozici. To výrazně snižuje vnímanou latenci.

Přistupujte k volání funkcí definováním nástrojů ve vašem payloadu. Model vrací strukturované argumenty pro provedení. Analyzujte výstup JSON pro vyvolání logiky na straně backendu.

Kombinujte streamování s nástroji pro složité pracovní postupy. Ošetřujte částečné odpovědi elegantně. Ujistěte se, že váš kód zpracovává poslední chunk pro počty tokenů.

Zpracování tokenů a dat o využití

Sledujte využití tokenů pro řízení vašeho předplaceného kreditu. API účtuje $0.15 per 1M input tokens and $0.50 per 1M output tokens. Errors do not consume credit.

Parsovejte data o využití z posledního streamovaného chunku. To poskytuje přesné počty vstupu a výstupu. Sledujte náklady v logech vaší aplikace.

Refundace se vztahuje pouze na chyby v fakturaci. Kredit nikdy nevyprší po zakoupení. Využijte data o využití k přesnému predikování budoucích výdajů.

Chápejte limity rychlosti a chyby

Očekávejte 429 chybu, pokud překročíte 300 požadavků za minutu. Zpomalte svého klienta, abyste předešli přerušením. Souběžné požadavky jsou omezeny na 8 na klíč.

A 401 chyba naznačuje neplatný nebo chybějící API klíč. Ověřte své přihlašovací údaje v dashboardu. A 402 chyba znamená, že je vyčerpán váš předplacený zůstatek.

Okno kontextu podporuje celkem 100 000 tokenů. Požadavky přesahující tento limit vrátí chybu. Přizpůsobte velikost payloadu podle toho, abyste udrželi výkon.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)