快速入门:无审查大语言模型 API 集成
以零代码更改将我们的无审查 LLM 放入现有的 OpenAI SDK 中。本快速入门指南指导您完成配置、流式传输和错误处理,适用于真正的 OpenAI 兼容端点。
安装 OpenAI SDK
首先将官方库添加到您的项目中。这确保了与温度 (temperature) 和 top_p 等标准参数的兼容性。该库自动处理序列化。
- 支持 Python 和 JavaScript 环境。
- 有效管理连接池。
- 保持与标准 OpenAI 兼容 API 结构的兼容性。
使用您首选的包管理器安装包。此步骤为您的环境立即集成做好准备。
对于基本的文本生成,您无需特定版本。该库无缝支持标准认证头。
配置你的基础 URL
将您的客户端指向我们的端点以绕过标准内容过滤器。使用基础 URL https://api.openaipricingapi.com/v1 适用于所有请求。此单一更改将流量重定向至我们的无审查 LLM 基础设施。
在标准 Authorization 标题。传入从仪表板获取的密钥。客户端在发送数据前会验证凭据。
请确保使用模型 ID uncensored 以获得最佳性能。此标识符告诉服务器将请求路由到哪个模型。不支持其他模型 ID。
发起您的首次聊天补全
发送简单消息以验证连通性。使用带有 system prompt 和 user message 的标准聊天补全端点。响应直接返回文本。
检查状态码以确认成功。200 OK 状态表示请求处理正确。错误会返回特定代码以便调试。
审查输出的准确性。模型在不拒绝合法成人内容的情况下作答。使用多样化的主题进行测试以验证行为。
启用流式传输和函数调用
启用流式传输以实时接收令牌。设置 stream=True 在你的请求中。客户端在数据可用时yield数据块。这显著降低了感知延迟。
通过在负载中定义工具来访问函数调用。模型返回用于执行的结构化参数。解析 JSON 输出以触发您的后端逻辑。
将流式传输与工具结合使用以处理复杂的工作流程。优雅地处理部分响应。确保您的代码处理最后一个块以获取 token 计数。
处理 Token 和使用数据
监控令牌用量以管理您的预付费余额。API 收取 $0.15 每 1M 输入令牌和 $0.50 每 1M 输出令牌。错误不消耗信用。
从最后一个流式分块中解析使用数据。这提供了准确的输入和输出计数。在您的应用程序日志中跟踪成本。
退款仅适用于账单错误。购买后信用额度永不过期。使用使用数据可准确预测未来支出。
理解速率限制和错误
预计 429 如果您每分钟超过 300 次请求,则会报错。请限制客户端的请求速率以避免中断。每个密钥的并发请求限制为 8 个。
A 401 表示 API 密钥无效或缺失。请在仪表板中验证您的凭据。A 402 表示您的预付费余额已耗尽。
上下文窗口支持总计 100,000 个 token。超过此限制的请求将返回错误。相应调整您的负载大小以维持性能。
cURL
curl https://api.openaipricingapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);流式传输
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常见问题
这是真正的 OpenAI 定价 API 替代品吗?
是的,我们的端点接受标准的 OpenAI 兼容负载,并返回标准的 JSON 响应。您可以使用官方 OpenAI SDK 而无需修改代码结构。定价模型不同,使用预付费信用额而非订阅。
如果我收到 402 错误会怎样?
402 错误表示您的预充值余额为零。您必须使用 USDT 或 USDC 充值以恢复服务。失败请求过程中的错误不会消耗您的余额,因此您可以安全重试。
上下文窗口有多大?
该模型支持 100,000 token 的上下文窗口,结合输入和输出。您可以为单次响应指定最多 16,000 个 token。超过限制的请求将立即失败。
获取您的 API 密钥
注册,获取密钥,更新基础 URL。搞定。