Швидкий старт: Інтеграція API необмеженої LLM

Встановіть SDK OpenAI

Почніть із додавання офіційної бібліотеки до вашого проєкту. Це забезпечує сумісність із такими стандартними параметрами, як temperature та top_p. Бібліотека автоматично обробляє серіалізацію.

• Підтримує середовища Python та JavaScript.
• Ефективно керує пулом з’єднань.
• Залишається сумісним зі стандартними структурами API, сумісними з OpenAI.

Встановіть пакет за допомогою вашого улюбленого менеджера пакетів. Цей крок готує ваше середовище до миттєвої інтеграції.

Вам не потрібна конкретна версія для базової генерації тексту. Бібліотека безперешкодно підтримує стандартні заголовки автентифікації.

Налаштуйте ваш базовий URL

Направте клієнта на наш кінцевий пункт, щоб обійти стандартні фільтри контенту. Використовуйте базовий URL https://api.openaipricingapi.com/v1 для всіх запитів. Ця єдина зміна перенаправляє трафік на нашу інфраструктуру uncensored LLM.

Встановіть свій API-ключ у стандартному Authorization header. Передайте ключ, отриманий із панелі керування. Клієнт перевіряє облікові дані перед надсиланням даних.

Переконайтеся, що ви використовуєте ID моделі uncensored для оптимальної продуктивності. Цей ідентифікатор повідомляє сервер, до якої моделі маршрутизувати ваш запит. Підтримується лише цей ідентифікатор моделі.

Зробіть своє перше завершення чату

Надішліть просте повідомлення, щоб перевірити з’єднання. Використовуйте стандартний ендпоінт chat completion із системним промптом та повідомленням користувача. У відповіді повертається текст безпосередньо.

Перевірте код статусу, щоб підтвердити успіх. Статус 200 OK вказує на правильне оброблення запиту. Помилки повертають специфічні коди для налагодження.

Огляд Точність виводу. Модель відповідає без відмови для законного дорослого контенту. Протестуйте з різними темами, щоб перевірити поведінку.

Увімкнути потокову передачу та виклик функцій

Активуйте потокову передачу, щоб отримувати токени в режимі реального часу. Встановіть stream=True у вашому запиті. Клієнт повертає чанки по мірі їх доступності. Це значно знижує сприйняту затримку.

Отримуйте доступ до виклику функцій, визначаючи інструменти у своєму запиті. Модель повертає структуровані аргументи для виконання. Розпарсуйте вихідні дані JSON, щоб запустити логіку вашого бекенду.

Поєднуйте потокову передачу з інструментами для складних робочих процесів. Обробляйте часткові відповіді коректно. Переконайтеся, що ваш код обробляє останній фрагмент для підрахунку токенів.

Обробка токенів та даних про використання

Моніторьте використання токенів для управління вашим передоплаченим кредитом. API нараховує $0.15 per 1M input tokens and $0.50 per 1M output tokens. Помилки не споживають кредит.

Розпарсіть дані про використання з останнього чанка потоку. Це забезпечує точну кількість вхідних і вихідних токенів. Відстежуйте витрати у журналах вашого додатка.

Повернення коштів застосовується лише до помилок у платежах. Кредит ніколи не закінчується після покупки. Використовуйте дані про використання, щоб точно прогнозувати майбутні витрати.

Розуміння лімітів швидкості та помилок

Очікуйте 429 error if you exceed 300 requests per minute. Throttle your client to avoid interruptions. Concurrent requests are limited to 8 per key.

A 401 помилка вказує на недійсний або відсутній API-ключ. Перевірте свої облікові дані в панелі керування. A 402 помилка означає, що вичерпано ваш передоплачений баланс.

Вікно контексту підтримує загальну кількість 100 000 токенів. Запити, що перевищують цей ліміт, повертають помилку. Відкоригуйте розмір корисного навантаження відповідно, щоб підтримувати продуктивність.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)