Szybki start: Integracja API LLM bez cenzury

Zainstaluj SDK OpenAI

Zacznij od dodania oficjalnej biblioteki do swojego projektu. Zapewnia to kompatybilność ze standardowymi parametrami, takimi jak temperatura i top_p. Biblioteka obsługuje serializację automatycznie.

• Obsługa środowisk Python i JavaScript.
• Skutecznie zarządza buforowaniem połączeń.
• Pozostaje kompatybilny ze standardowymi strukturami API kompatybilnego z OpenAI.

Zainstaluj pakiet za pomocą preferowanego menedżera pakietów. Ten krok przygotowuje Twoje środowisko do natychmiastowej integracji.

Nie potrzebujesz konkretnej wersji do podstawnej generacji tekstu. Biblioteka bezproblemowo obsługuje standardowe nagłówki uwierzytelniania.

Skonfiguruj swój podstawowy URL

Wskaż klienta na nasz punkt końcowy, aby ominąć standardowe filtry treści. Użyj adresu bazowego https://api.openaipricingapi.com/v1 dla wszystkich żądań. Ta pojedyncza zmiana przekieruje ruch do infrastruktury LLM bez cenzury.

Skonfiguruj swój klucz API w standardowym Authorization Nagłówek. Przekaż klucz, który otrzymałeś z panelu. Klient weryfikuje poświadczenia przed wysłaniem danych.

Upewnij się, że użyjesz ID modelu uncensored dla optymalnej wydajności. Ten identyfikator mówi serwerowi, do którego modelu ma przekierować Twoje żądanie. Nie obsługiwane są inne identyfikatory modeli.

Wykonaj Pierwsze Uzupełnienie Czat

Wyślij prostą wiadomość, aby zweryfikować łączność. Użyj standardowego punktu końcowego uzupełniania czatu z promptem systemowym i wiadomością użytkownika. Odpowiedź zwraca tekst bezpośrednio.

Sprawdź kod statusu, aby potwierdzić powodzenie. Status 200 OK oznacza, że żądanie zostało przetworzone poprawnie. Błędy zwracają konkretne kody w celu debugowania.

Przejrzyj dokładność wyjścia. Model odpowiada bez odrzucania legalnej treści dla dorosłych. Przetestuj na zróżnicowanych tematach, aby zweryfikować zachowanie.

Włącz Strumieniowanie i Wywoływanie Funkcji

Aktywuj streaming, aby otrzymywać tokeny w czasie rzeczywistym. Ustaw stream=True w Twoim żądaniu. Klient zwraca chunki w miarę ich stania się dostępnymi. Znacząco redukuje to postrzeganą latencję.

Uzyskaj wywoływanie funkcji, definiując narzędzia w swoim ładunku. Model zwraca strukturyzowane argumenty do wykonania. Sparsuj wyjście JSON, aby uruchomić logikę backendu.

Połącz strumieniowanie z narzędziami dla złożonych przepływów pracy. Obsłuż częściowe odpowiedzi w sposób graceful. Upewnij się, że Twój kod przetwarza ostatni fragment dla liczb tokenów.

Obsługa tokenów i danych o użyciu

Monitoruj zużycie tokenów, aby zarządzać kredytem zaliczkowym. API pobiera $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. Błędy nie zużywają kredytu.

Przeanalizuj dane użycia z ostatniego chunka strumienia. Zapewnia to dokładne liczniki danych wejściowych i wyjściowych. Śledź koszty w dziennikach aplikacji.

Zwroty dotyczą tylko błędów rozliczeniowych. Kredyt nie wygasa po zakupie. Wykorzystaj dane o użyciu do dokładnego prognozowania przyszłych wydatków.

Zrozum limity szybkości i błędy

Oczekuj 429 błąd, jeśli przekroczysz limit 300 żądań na minutę. Wstrzymaj klienta, aby uniknąć przerw. Żądania współbieżne są ograniczone do 8 na klucz.

A 401 błąd wskazuje na nieprawidłowy lub brakujący klucz API. Zweryfikuj swoje dane logowania w panelu. A 402 błąd oznacza, że Twoje saldo zaliczkowe jest wyczerpane.

Okno kontekstowe obsługuje łącznie 100 000 tokenów. Żądania przekraczające ten limit zwracają błąd. Dopasuj rozmiar ładunku, aby utrzymać wydajność.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)