เริ่มต้นใช้งาน: การผสานรวม API LLM แบบไม่เซ็นเซอร์

ติดตั้ง SDK OpenAI

เริ่มต้นด้วยการเพิ่มไลบรารีทางการลงในโปรเจกต์ เพื่อให้แน่ใจว่าเข้ากันได้กับพารามิเตอร์มาตรฐานเช่น temperature และ top_p ไลบรารีจัดการการซีเรียไลเซชันโดยอัตโนมัติ

• รองรับสภาพแวดล้อม Python และ JavaScript
• จัดการการเชื่อมต่อแบบ pooling ได้อย่างมีประสิทธิภาพ
• ยังคงเข้ากันได้กับโครงสร้าง API ที่เข้ากันได้กับ OpenAI มาตรฐาน

ติดตั้งแพ็กเกจโดยใช้ตัวจัดการแพ็กเกจที่คุณต้องการ ขั้นตอนนี้เตรียมสภาพแวดล้อมของคุณสำหรับการผสานรวมทันที

คุณไม่จำเป็นต้องใช้เวอร์ชันเฉพาะสำหรับการสร้างข้อความพื้นฐาน ไลบรารีรองรับการตรวจสอบสิทธิ์แบบมาตรฐานได้อย่างราบรื่น

กำหนดค่า URL พื้นฐานของคุณ

ชี้ไคลเอนต์ของคุณไปยัง endpoint ของเราเพื่อข้ามตัวกรองเนื้อหามาตรฐาน ใช้ base URL https://api.openaipricingapi.com/v1 สำหรับคำขอทั้งหมด การเปลี่ยนแปลงเพียงอย่างเดียวนี้จะเปลี่ยนเส้นทาง traffic ไปยังโครงสร้างพื้นฐาน LLM uncensored ของเรา

ตั้งค่าคีย์ API ของคุณในมาตรฐาน Authorization header. ส่งคีย์ที่คุณได้รับจากแดชบอร์ด ไคลเอนต์จะตรวจสอบข้อมูลรับรองก่อนส่งข้อมูล

ตรวจสอบว่าคุณใช้ ID ของโมเดล uncensored เพื่อประสิทธิภาพสูงสุด ตัวระบุนี้บอกเซิร์ฟเวอร์ว่าควรเปลี่ยนเส้นทางคำขอของคุณไปยังโมเดลใด ไม่รองรับ ID โมเดลอื่น

ทำการ chat completion ครั้งแรกของคุณ

ส่งข้อความแบบง่ายเพื่อตรวจสอบการเชื่อมต่อ ใช้เอนด์พอยต์ chat completion มาตรฐานพร้อม system prompt และข้อความผู้ใช้ การตอบกลับส่งกลับข้อความโดยตรง

ตรวจสอบ status code เพื่อยืนยันความสำเร็จ status code 200 OK บ่งชี้ว่า request ประมวลผลถูกต้อง ข้อผิดพลาดจะส่งรหัสเฉพาะสำหรับการ debug

ทบทวนความถูกต้องของผลลัพธ์ โมเดลให้คำตอบโดยไม่มีการปฏิเสธเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย ทดสอบด้วยหัวข้อที่หลากหลายเพื่อยืนยันพฤติกรรม

เปิดใช้งานการสตรีมและการเรียกใช้ฟังก์ชัน

เปิดใช้งาน streaming เพื่อรับ token แบบเรียลไทม์ ตั้งค่า stream=True ในการร้องขอของคุณไคลเอนต์จะส่งคืนชิ้นส่วนข้อมูลทันทีที่มีอยู่ วิธีนี้ลดความล่าช้าที่ผู้ใช้รู้สึกได้อย่างมาก

เข้าถึงการเรียกใช้ฟังก์ชันโดยกำหนดเครื่องมือใน payload ของคุณ โมเดลจะส่งคืนอาร์กิวเมนต์ที่มีโครงสร้างสำหรับการดำเนินการ วิเคราะห์เอาต์พุต JSON เพื่อกระตุ้นลอจิกแบ็กเอนด์ของคุณ

ผสานการสตรีมกับเครื่องมือสำหรับเวิร์กโฟลที่ซับซ้อน จัดการการตอบกลับแบบบางส่วนอย่างเหมาะสม ตรวจสอบให้แน่ใจว่าโค้ดของคุณประมวลผลชิ้นสุดท้ายเพื่อรับจำนวนโทเค็น

จัดการข้อมูลการใช้ tokens

ติดตามการใช้งานโทเค็นเพื่อจัดการเครดิตแบบเติมเงินของคุณ API เรียกเก็บเงิน $0.15 per 1M input tokens and $0.50 per 1M output tokens ข้อผิดพลาดไม่ใช้เครดิต

แยกข้อมูลการใช้งานจาก chunk stream สุดท้าย ซึ่งให้จำนวน input และ output ที่แม่นยำ ติดตามต้นทุนในบันทึกแอปพลิเคชันของคุณ

การคืนเงินจะใช้เฉพาะกับความผิดพลาดในการเรียกเก็บเงินเท่านั้น เครดิตจะไม่หมดอายุหลังจากซื้อแล้ว ใช้ข้อมูลการใช้งานเพื่อคาดการณ์ค่าใช้จ่ายในอนาคตได้อย่างแม่นยำ

ทำความเข้าใจขีดจำกัดอัตราและข้อผิดพลาด

คาดหวัง 429 ข้อผิดพลาดหากคุณเกิน 300 คำขอต่อนาที ควรปรับอัตราคำขอจากไคลเอนต์เพื่อหลีกเลี่ยงการหยุดชะงัก คำขอแบบคอนเคอร์เรนต์จำกัดไว้ที่ 8 คำขอต่อคีย์

A 401 error บ่งชี้ว่าคีย์ API ไม่ถูกต้องหรือหายไป โปรดตรวจสอบข้อมูลประจำตัวของคุณในแดชบอร์ด A 402 error หมายถึงยอดคงเหลือพรีเพดของคุณหมดแล้ว

หน้าต่างบริบทรองรับ 100,000 tokens รวม คำขอที่เกินขีดจำกัดนี้จะคืนข้อผิดพลาด ปรับขนาด payload ของคุณให้เหมาะสมเพื่อรักษาประสิทธิภาพ

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)