Panduan Cepat: Integrasi API LLM Tanpa Sensor

Instal SDK OpenAI

Mulai dengan menambahkan perpustakaan resmi ke proyek Anda. Ini memastikan kompatibilitas dengan parameter standar seperti temperature dan top_p. Perpustakaan menangani serialisasi secara otomatis.

• Mendukung lingkungan Python dan JavaScript.
• Mengelola pengelompokan koneksi secara efisien.
• Tetap kompatibel dengan struktur API kompatibel OpenAI standar.

Instal paket menggunakan manajer paket pilihan Anda. Langkah ini menyiapkan lingkungan Anda untuk integrasi segera.

Anda tidak memerlukan versi khusus untuk generasi teks dasar. Perpustakaan mendukung header autentikasi standar secara mulus.

Konfigurasikan URL Dasar Anda

Arahkan klien Anda ke endpoint kami untuk melewati filter konten standar. Gunakan URL dasar https://api.openaipricingapi.com/v1 untuk semua permintaan. Perubahan tunggal ini mengalihkan lalu lintas ke infrastruktur LLM tanpa sensor kami.

Atur kunci API Anda di header otorisasi standar. Authorization header. Masukkan kunci yang Anda dapatkan dari dasbor. Klien memvalidasi kredensial sebelum mengirim data.

Pastikan Anda menggunakan ID model uncensored untuk kinerja optimal. Pengidentifikasi ini memberi tahu server model mana yang akan dialihkan permintaan Anda ke. Tidak ada ID model lain yang didukung.

Buat Penyelesaian Chat Pertama Anda

Kirim pesan sederhana untuk memverifikasi konektivitas. Gunakan titik akhir penyelesaian chat standar dengan prompt sistem dan pesan pengguna. Respons mengembalikan teks secara langsung.

Periksa kode status untuk mengonfirmasi keberhasilan. Status 200 OK menunjukkan bahwa permintaan diproses dengan benar. Kesalahan akan mengembalikan kode spesifik untuk debugging.

Tinjau output untuk akurasi. Model menjawab tanpa menolak konten dewasa yang sah. Uji dengan topik beragam untuk memverifikasi perilaku.

Aktifkan Streaming dan Pemanggilan Fungsi

Aktifkan streaming untuk menerima token secara real-time. Atur stream=True dalam permintaan Anda. klien menghasilkan chunk saat tersedia. Ini secara signifikan mengurangi latensi yang dirasakan.

Akses pemanggilan fungsi dengan menentukan alat dalam payload Anda. Model mengembalikan argumen terstruktur untuk eksekusi. Parse output JSON untuk memicu logika backend Anda.

Gabungkan streaming dengan alat untuk alur kerja kompleks. Tangani respons parsial dengan baik. Pastikan kode Anda memproses potongan terakhir untuk hitungan token.

Tangani Token dan Data Penggunaan

Pantau penggunaan token untuk mengelola kredit prabayar Anda. API membebankan $0.15 per 1M token input dan $0.50 per 1M token output. Kesalahan tidak mengonsumsi kredit.

Parse data penggunaan dari chunk streaming terakhir. Ini menyediakan jumlah input dan output yang akurat. Lacak biaya di log aplikasi Anda.

Pengembalian dana hanya berlaku untuk kesalahan penagihan. Kredit tidak pernah kedaluwarsa setelah dibeli. Gunakan data penggunaan untuk memprediksi pengeluaran masa depan secara akurat.

Memahami Batas Laju dan Kesalahan

Diharapkan sebuah 429 error jika Anda melebihi 300 permintaan per menit. Throttle klien Anda untuk menghindari gangguan. Permintaan simultan dibatasi hingga 8 per kunci.

A 401 error menunjukkan kunci API tidak valid atau hilang. Verifikasi kredensial Anda di dasbor. A 402 error berarti saldo prabayar Anda telah habis.

Jendela konteks mendukung total 100.000 token. Permintaan yang melebihi batas ini mengembalikan error. Sesuaikan ukuran payload Anda sesuai untuk mempertahankan kinerja.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)