快速上手:無審查 LLM API 整合
以零程式碼變更將我們的無審查 LLM 放入您現有的 OpenAI SDK 中。此快速入門指南將引導您完成設定、串流和錯誤處理,以獲得真正的 OpenAI 相容端點。
安裝 OpenAI SDK
首先將官方庫添加到您的專案中。這確保了與溫度(temperature)和 top_p 等標準參數的兼容性。該庫自動處理序列化。
- 支援 Python 與 JavaScript 環境。
- 有效管理連線集區。
- 保持與標準 OpenAI 相容 API 結構的相容性。
使用您首選的套件管理器安裝該套件。此步驟為您的環境立即整合做好準備。
進行基本文字生成不需要特定版本。該函式庫可無縫支援標準驗證標頭。
設定您的基礎 URL
將您的客戶端指向我們的端點以繞過標準的內容篩選器。使用基礎 URL https://api.openaipricingapi.com/v1 適用於所有請求。此單一變更將流量重定向至我們的 uncensored LLM 基礎設施。
在標準 Authorization header。請輸入您從儀表板取得的金鑰。客戶端會在發送資料前驗證憑證。
請確保使用模型 ID uncensored 用於最佳效能。此識別碼告知伺服器將您的請求路由至哪個模型。不支援其他模型 ID。
進行您的首次聊天完成
發送簡單的訊息以驗證連線能力。使用標準聊天完成端點,附上系統提示和使用者訊息。回應直接回傳文字。
檢查狀態碼以確認成功。200 OK 狀態表示請求已正確處理。錯誤會回傳特定的代碼以便除錯。
審查輸出的準確性。模型不會拒絕合法的成人內容。使用多樣化的主題進行測試以驗證行為。
啟用串流與函式呼叫
啟用串流傳輸以即時接收 token。設定 stream=True 在你的請求中。客戶端隨著資料可用時產生區塊。這能顯著降低感知延遲。
透過在載荷中定義工具來存取函式呼叫。模型返回結構化的參數以供執行。解析 JSON 輸出以觸發您的後端邏輯。
將串流傳輸與工具結合,用於複雜的工作流程。優雅地處理部分回應。確保您的代碼處理最後一個片段以獲取 token 計數。
處理 Token 與使用資料
監控 Token 用量以管理您的預付額度。API 按 $0.15 每百萬個輸入 token 和 $0.50 每百萬個輸出 token。錯誤不會消耗信用額度。
從最後一個串流區塊中解析使用數據。這可提供準確的輸入和輸出計數。在您的應用程式日誌中追蹤成本。
退款僅適用於帳單錯誤。購買後的信用額度永不過期。使用使用數據可準確預測未來支出。
了解速率限制與錯誤
預期 429 如果您每分鐘超過 300 次請求,將產生錯誤。請限制您的客戶端以避免中斷。每個金鑰的並行請求限制為 8 個。
A 401 表示 API 金鑰無效或缺失的錯誤。請在儀表板中驗證您的憑證。一個 402 表示您的預付餘額已耗盡。
上下文視窗支援 100,000 個 token 總量。超過此限制的請求會返回錯誤。請相應調整您的載入大小以維持效能。
cURL
curl https://api.openaipricingapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);串流
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常見問題
這是真正的 OpenAI 定價 API 替代品嗎?
是的,我們的端點接受標準的 OpenAI 相容負載並返回標準的 JSON 回應。您可以使用官方的 OpenAI SDK 而無需修改代碼結構。定價模型不同,它使用預付信用額而非訂閱制。
如果我收到 402 錯誤會發生什麼事?
402 錯誤表示您的預付額度餘額為零。您必須使用 USDT 或 USDC 充值以恢復服務。失敗請求過程中的錯誤不會消耗您的額度,因此您可以安全地重試。
上下文視窗有多大?
該模型支援結合輸入與輸出的 100,000 個 token 上下文視窗。您可以為單一回應指定最多 16,000 個 token。超過限制的請求將立即失敗。
取得您的 API 金鑰
註冊、取得金鑰、更新基礎 URL。就是這些。