Hızlı Başlangıç: Uncensored LLM API Entegrasyonu

OpenAI SDK'sını yükleyin

Resmi kütüphaneyi projenize ekleyerek başlayın. Bu, sıcaklık ve top_p gibi standart parametrelerle uyumluluğu sağlar. Kütüphane otomatik olarak seri hale getirmeyi yönetir.

• Python ve JavaScript ortamlarını destekler.
• Bağlantı havuzunu verimli bir şekilde yönetir.
• Standart OpenAI uyumlu API yapılarıyla uyumlu kalır.

Paketi tercih ettiğiniz paket yöneticisi kullanarak yükleyin. Bu adım, ortamınızı hemen entegrasyona hazırlar.

Temel metin üretimi için belirli bir sürüme ihtiyacınız yok. Kütüphane standart kimlik doğrulama başlıklarını sorunsuz şekilde destekler.

Temel URL'nizi Yapılandırın

İstemcinizi standart içerik filtrelerini aşmak için uç noktamıza yönlendirin. Temel URL olarak https://api.openaipricingapi.com/v1 tüm istekler için. Bu tek değişiklik, trafiği sansürsuz LLM altyapımıza yönlendirir.

API anahtarınızı standart Authorization header. Panelden edindiğiniz anahtarı iletin. İstemci, veriyi göndermeden önce kimlik doğrulamasını yapar.

Model kimliğini şu şekilde kullandığınızdan emin olun uncensored optimal performans için. Bu tanımlayıcı, sunucuya isteğinizi hangi modele yönlendireceğinizi söyler. Başka model kimlikleri desteklenmez.

İlk Sohbet Tamamlamanızı Yapın

Bağlantıyı doğrulamak için basit bir mesaj gönderin. Sistem istemi ve kullanıcı mesajı ile standart sohbet tamamlama uç noktasını kullanın. Yanıt doğrudan metni döndürür.

Başarılı olduğunu doğrulamak için durum kodunu kontrol edin. 200 OK durumu, isteğin doğru şekilde işlendiğini gösterir. Hatalar hata ayıklama için belirli kodlar döndürür.

Doğruluk için çıktıyı gözden geçirin. Model, yasal yetişkin içeriği reddetmeden yanıtlar verir. Davranışı doğrulamak için çeşitli konularla test yapın.

Akışı ve İşlev Çağrısını Etkinleştir

Tokenları gerçek zamanlı olarak almak için akış modunu etkinleştirin. Şunu ayarlayın stream=True istekinizde. İstemci, mevcut hale geldikçe parçaları verir. Bu, algılanan gecikmeyi önemli ölçüde azaltır.

Araçları yükünüzde tanımlayarak fonksiyon çağırma erişin. Model, yürütme için yapılandırılmış argümanlar döndürür. Arka uç mantığınızı tetiklemek için JSON çıktısını ayrıştırın.

Karmaşık iş akışları için akış (streaming) ile araç kullanımı birleştirin. Kısmi yanıtları zarifçe yönetin. Token sayıları için son parçayı işleyen kodunuzdan emin olun.

Tokenları ve Kullanım Verilerini Yönetin

Ön ödemeli kredinizi yönetmek için token kullanımını izleyin. API $0.15 1M giriş token'ı başına $0.50 1M çıktı token'ı başına. Hatalar kredinizi tüketmez.

Son akış parçasından kullanım verilerini ayrıştırın. Bu, doğru giriş ve çıkış sayıları sağlar. Maliyetleri uygulama günlüklerinizde izleyin.

İadeler yalnızca faturalandırma hatalarına uygulanır. Satın alınan kredi süresi dolmaz. Gelecekteki harcamaları doğru bir şekilde tahmin etmek için kullanım verilerini kullanın.

Kısıtlama Limitlerini ve Hataları Anlamak

Bir 429 dakikada 300 isteği aşarsanız hata. Kesintıları önlemek için istemcinizi yavaşlatın. Anahtar başına eşzamanlı istekler 8 ile sınırlıdır.

A 401 kimlik bilgilerinizi panoda doğrulayın. A 402 ön ödemeli bakiyenizin tükendiğini gösterir.

Bağlam penceresi toplamda 100.000 jetonu destekler. Bu sınırı aşan istekler bir hata döndürür. Performansı korumak için yük boyutunuzu buna göre ayarlayın.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)