Hướng dẫn nhanh: Tích hợp API LLM không kiểm duyệt

Cài đặt SDK OpenAI

Bắt đầu bằng cách thêm thư viện chính thức vào dự án của bạn. Điều này đảm bảo khả năng tương thích với các tham số tiêu chuẩn như temperature và top_p. Thư viện tự động xử lý tuần tự hóa.

• Hỗ trợ môi trường Python và JavaScript.
• Quản lý hiệu quả việc kết nối nhóm.
• Vẫn tương thích với cấu trúc API tương thích OpenAI tiêu chuẩn.

Cài đặt gói bằng trình quản lý gói ưa thích của bạn. Bước này chuẩn bị môi trường của bạn cho tích hợp ngay lập tức.

Bạn không cần phiên bản cụ thể cho việc tạo văn bản cơ bản. Thư viện hỗ trợ tiêu chuẩn xác thực header một cách liền mạch.

Cấu hình URL cơ sở của bạn

Điểm client của bạn đến điểm cuối của chúng tôi để bỏ qua bộ lọc nội dung tiêu chuẩn. Sử dụng URL cơ sở https://api.openaipricingapi.com/v1 cho tất cả các yêu cầu. Thay đổi đơn lẻ này chuyển hướng lưu lượng truy cập đến cơ sở hạ tầng LLM không kiểm duyệt của chúng tôi.

Thiết lập khóa API của bạn trong tiêu đề Authorization header. Truyền khóa bạn đã nhận từ bảng điều khiển. Máy khách xác thực thông tin đăng nhập trước khi gửi dữ liệu.

Đảm bảo bạn sử dụng model ID uncensored để đạt hiệu suất tối ưu. Định danh này cho máy chủ biết mô hình nào sẽ định tuyến yêu cầu của bạn đến. Không có định danh mô hình nào khác được hỗ trợ.

Thực hiện hoàn tất hội thoại đầu tiên của bạn

Gửi một tin nhắn đơn giản để xác minh khả năng kết nối. Sử dụng điểm cuối hoàn thành trò chuyện tiêu chuẩn với lời nhắc hệ thống và tin nhắn người dùng. Phản hồi trả về văn bản trực tiếp.

Kiểm tra mã trạng thái để xác nhận thành công. Mã trạng thái 200 OK cho biết yêu cầu đã được xử lý chính xác. Các lỗi trả về các mã cụ thể để gỡ lỗi.

Xem lại độ chính xác của kết quả. Mô hình trả lời mà không từ chối nội dung người trưởng thành hợp pháp. Kiểm tra với các chủ đề đa dạng để xác minh hành vi.

Bật phát trực tiếp và Gọi hàm

Kích hoạt streaming để nhận token theo thời gian thực. Đặt stream=True trong yêu cầu của bạn. Client trả về các chunk khi chúng có sẵn. Điều này giảm đáng kể độ trễ cảm nhận.

Truy cập gọi hàm bằng cách xác định công cụ trong tải trọng của bạn. Mô hình trả về các đối số có cấu trúc để thực thi. Phân tích đầu ra JSON để kích hoạt logic backend của bạn.

Kết hợp streaming với công cụ cho các quy trình làm việc phức tạp. Xử lý các phản hồi từng phần một cách khéo léo. Đảm bảo mã của bạn xử lý đoạn cuối cùng để lấy số lượng token.

Xử lý Dữ liệu Token và Sử dụng

Theo dõi việc sử dụng token để quản lý số dư trả trước của bạn. API tính phí $0.15 per 1M input tokens and $0.50 per 1M output tokens. Lỗi không tiêu thụ tín dụng.

Phân tích dữ liệu sử dụng từ chunk stream cuối cùng. Điều này cung cấp số đếm đầu vào và đầu ra chính xác. Theo dõi chi phí trong nhật ký ứng dụng của bạn.

Hoàn tiền chỉ áp dụng cho lỗi thanh toán. Tín dụng không bao giờ hết hạn sau khi mua. Sử dụng dữ liệu sử dụng để dự đoán chi tiêu trong tương lai một cách chính xác.

Hiểu giới hạn tốc độ và lỗi

Dự kiến một 429 error nếu bạn vượt quá 300 yêu cầu mỗi phút. Hãy điều chỉnh máy khách của bạn để tránh gián đoạn. Các yêu cầu đồng thời bị giới hạn ở 8 cho mỗi khóa.

A 401 lỗi cho biết khóa API không hợp lệ hoặc bị thiếu. Xác minh thông tin đăng nhập của bạn trong bảng điều khiển. Một 402 lỗi có nghĩa là số dư trả trước của bạn đã cạn kiệt.

Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token. Các yêu cầu vượt quá giới hạn này trả về lỗi. Điều chỉnh kích thước payload của bạn tương ứng để duy trì hiệu suất.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)