Pengenalan: Integrasi API LLM Tanpa Sensor

Pasang SDK OpenAI

Mula dengan menambah perpustakaan rasmi ke projek anda. Ini memastikan serasi dengan parameter standard seperti suhu dan top_p. Perpustakaan mengendalikan pengaturcaraan semula secara automatik.

• Menyokong persekitaran Python dan JavaScript.
• Menguruskan pengumpulan sambungan dengan cekap.
• Kekal serasi dengan struktur API serasi OpenAI piawai.

Pasang pakej menggunakan pengurus pakej pilihan anda. Langkah ini menyediakan persekitaran anda untuk integrasi serta-merta.

Anda tidak memerlukan versi khusus untuk penjanaan teks asas. Perpustakaan menyokong pengepala pengesahan piawai dengan lancar.

Konfigurasikan URL Asas Anda

Arahkan klien anda ke titik akhir kami untuk melangkaui penapis kandungan standard. Gunakan URL asas https://api.openaipricingapi.com/v1 untuk semua permintaan. Perubahan tunggal ini mengalihkan trafik ke infrastruktur LLM tanpa sensor kami.

Tetapkan kunci API anda dalam Authorization header. Pass the key you obtained from the dashboard. The client validates credentials before sending data.

Pastikan anda menggunakan ID model uncensored untuk prestasi optimum. Pengenal ini memberitahu pelayan model mana yang perlu dialihkan permintaan anda. Tiada pengenal model lain disokong.

Buat Penyelesaian Chat Pertama Anda

Hantar mesej mudah untuk mengesahkan sambungan. Gunakan hujung sambungan penyelesaian chat standard dengan prompt sistem dan mesej pengguna. Respons mengembalikan teks secara langsung.

Semak kod status untuk mengesahkan kejayaan. Status 200 OK menunjukkan permintaan diproses dengan betul. Ralat memulangkan kod khusus untuk nyahpepijat.

Semak ketepatan output. Model menjawab tanpa menolak kandungan dewasa yang sah. Uji dengan topik pelbagai untuk mengesahkan tingkah laku.

Aktifkan Aliran dan Panggilan Fungsi

Aktifkan streaming untuk menerima token secara masa nyata. Tetapkan stream=True dalam permintaan anda. klien menjana pecahan apabila ia tersedia. Ini mengurangkan latensi yang dirasakan dengan ketara.

Akses panggilan fungsi dengan menentukan alat dalamayload anda. Model mengembalikan hujah terstruktur untuk pelaksanaan. Huraikan output JSON untuk mencetuskan logik backend anda.

Gabungkan aliran dengan alat untuk aliran kerja kompleks. Tangani respons separa dengan baik. Pastikan kod anda memproses chunk akhir untuk kiraan token.

Tangani Token dan Data Penggunaan

Pantau penggunaan token untuk mengurus kredit prabayar anda. API mengenakan $0.15 setiap 1M token input dan $0.50 setiap 1M token output. Ralat tidak menggunakan kredit.

Parse data penggunaan daripada chunk streaming akhir. Ini memberikan kiraan input dan output yang tepat. Jejak kos dalam log aplikasi anda.

Pemulangan hanya terpakai untuk ralat bil. Kredit tidak luput selepas dibeli. Gunakan data penggunaan untuk meramal perbelanjaan masa depan dengan tepat.

Memahami Had Kadar dan Ralat

Jangka a 429 ralat jika anda melebihi 300 permintaan per minit. Throttle klien anda untuk mengelakkan gangguan. Permintaan serentak terhad kepada 8 per kunci.

A 401 kesilapan menunjukkan kunci API tidak sah atau tiada. Sahkan kelayakan anda di papan pemuka. A 402 kesilapan bermaksud baki prabayar anda telah habis.

Jendela konteks menyokong jumlah 100,000 token. Permintaan melebihi had ini mengembalikan ralat. Laraskan saiz muatan anda bagi mengekalkan prestasi.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)