Быстрый старт: Интеграция нецензурируемого API LLM

Установите SDK OpenAI

Начните с добавления официальной библиотеки в ваш проект. Это обеспечивает совместимость со стандартными параметрами, такими как temperature и top_p. Библиотека автоматически обрабатывает сериализацию.

• Поддерживает среды Python и JavaScript.
• Эффективно управляет пулом соединений.
• Остается совместимым со стандартными структурами API, совместимыми с OpenAI.

Установите пакет с помощью предпочитаемого менеджера пакетов. Этот шаг подготавливает ваше окружение для немедленной интеграции.

Вам не нужна специальная версия для базовой генерации текста. Библиотека поддерживает стандартные заголовки аутентификации бесшовно.

Настройте ваш базовый URL

Направьте клиента на наш конечный пункт, чтобы обойти стандартные фильтры контента. Используйте базовый URL https://api.openaipricingapi.com/v1 для всех запросов. Это единственное изменение перенаправляет трафик на нашу инфраструктуру uncensored LLM.

Установите API-ключ в стандартном Authorization header. Передайте ключ, полученный из панели управления. Клиент проверяет учетные данные перед отправкой данных.

Убедитесь, что вы используете идентификатор модели uncensored для оптимальной производительности. Этот идентификатор сообщает серверу, какую модель маршрутизировать для вашего запроса. Другие идентификаторы моделей не поддерживаются.

Сделайте свое первое завершение чата

Отправьте простое сообщение, чтобы проверить подключение. Используйте стандартный эндпоинт завершения чата с системным промптом и сообщением пользователя. Ответ возвращает текст напрямую.

Проверьте код статуса, чтобы подтвердить успешность. Статус 200 OK указывает на корректную обработку запроса. Ошибки возвращают конкретные коды для отладки.

Проверяйте вывод на точность. Модель отвечает без отказа от законного взрослого контента. Тестируйте с различными темами, чтобы проверить поведение.

Включить потоковую передачу и вызов функций

Активируйте потоковую передачу, чтобы получать токены в реальном времени. Установите stream=True в вашем запросе. Клиент выдает чанки по мере их появления. Это значительно снижает воспринимаемую задержку.

Доступ к вызову функций путем определения инструментов в полезной нагрузке. Модель возвращает структурированные аргументы для выполнения. Разберите вывод JSON, чтобы запустить логику вашего бэкенда.

Сочетайте потоковую передачу с инструментами для сложных рабочих процессов. Грациозно обрабатывайте частичные ответы. Убедитесь, что ваш код обрабатывает последний чанк для подсчета токенов.

Обрабатывайте токены и данные об использовании

Отслеживайте использование токенов для управления предоплаченным кредитом. API взимает $0.15 per 1M input tokens and $0.50 per 1M output tokens. Ошибки не расходуют кредит.

Разбирайте данные об использовании из последнего потока чанков. Это обеспечивает точные подсчеты входных и выходных данных. Отслеживайте расходы в журналах вашего приложения.

Возвраты применяются только к ошибкам выставления счетов. Кредит никогда не истекает после покупки. Используйте данные об использовании, чтобы точно прогнозировать будущие расходы.

Понимание лимитов частоты запросов и ошибок

Ожидайте 429 error if you exceed 300 requests per minute. Throttle your client to avoid interruptions. Concurrent requests are limited to 8 per key.

A 401 ошибка указывает на недействительный или отсутствующий API-ключ. Проверьте учетные данные в панели управления. A 402 ошибка означает, что исчерпан предоплаченный баланс.

Окно контекста поддерживает до 100 000 токенов суммарно. Запросы, превышающие этот лимит, возвращают ошибку. Отрегулируйте размер полезной нагрузки, чтобы поддерживать производительность.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)