Démarrage rapide : Intégration de l'API LLM sans censure

Installez le SDK OpenAI

Commencez par ajouter la bibliothèque officielle à votre environnement de projet. Cela garantit la compatibilité avec les paramètres standards comme la température et le top_p. La bibliothèque gère automatiquement la sérialisation.

• Prend en charge les environnements Python et JavaScript.
• Gère efficacement le groupement des connexions.
• Reste compatible avec les structures d'API standard compatibles avec OpenAI.

Installez le package à l'aide de votre gestionnaire de packages préféré. Cette étape prépare votre environnement pour une intégration immédiate.

Vous n'avez pas besoin d'une version spécifique pour la génération de texte basique. La bibliothèque prend en charge les en-têtes d'authentification standard sans problème.

Configurer votre URL de base

Pointez votre client vers notre point de terminaison pour contourner les filtres de contenu standard. Utilisez l'URL de base https://api.openaipricingapi.com/v1 pour toutes les requêtes. Ce seul changement redirige le trafic vers notre infrastructure de LLM sans censure.

Définissez votre clé API dans l'en-tête d'autorisation standard. Authorization header. Transmettez la clé obtenue depuis le tableau de bord. Le client valide les identifiants avant d'envoyer les données.

Assurez-vous d'utiliser l'ID de modèle uncensored pour des performances optimales. Cet identifiant indique au serveur quel modèle router votre requête vers. Aucun autre ID de modèle n'est pris en charge.

Effectuer votre première complétion de chat

Envoyez un simple message pour vérifier la connectivité. Utilisez le point de terminaison standard de complétion de chat avec une invite système et un message utilisateur. La réponse renvoie du texte directement.

Vérifiez le code d'état pour confirmer le succès. Un statut 200 OK indique que la requête a été traitée correctement. Les erreurs renvoient des codes spécifiques pour le débogage.

Examinez la sortie pour l'exactitude. Le modèle répond sans refuser le contenu adulte légal. Testez avec des sujets diversifiés pour vérifier le comportement.

Activer le Streaming et l'Appel de Fonctions

Activez le streaming pour recevoir les tokens en temps réel. Définissez stream=True dans votre requête. Le client émet des chunks dès qu'ils sont disponibles. Cela réduit considérablement la latence perçue.

Accédez à l'appel de fonctions en définissant des outils dans votre charge utile. Le modèle renvoie des arguments structurés pour l'exécution. Analysez la sortie JSON pour déclencher la logique de votre backend.

Combinez le streaming avec les outils pour des workflows complexes. Gérez les réponses partielles avec grâce. Assurez-vous que votre code traite le dernier chunk pour les comptes de tokens.

Gérer les tokens et les données d'utilisation

Surveillez l'utilisation des jetons pour gérer votre crédit prépayé. L'API facture $0.15 par 1M de tokens d'entrée et $0.50 par 1M de tokens de sortie. Les erreurs ne consomment pas de crédit.

Analysez les données d'utilisation du dernier chunk de streaming. Cela fournit des comptes précis d'entrée et de sortie. Suivez les coûts dans les journaux de votre application.

Les remboursements s'appliquent uniquement aux erreurs de facturation. Le crédit n'expire jamais une fois acheté. Utilisez les données d'utilisation pour prédire avec précision vos dépenses futures.

Comprendre les limites de débit et les erreurs

Attendez un 429 erreur si vous dépassez 300 requêtes par minute. Limitez votre client pour éviter les interruptions. Les requêtes concurrentes sont limitées à 8 par clé.

A 401 erreur indique une clé API invalide ou manquante. Vérifiez vos identifiants dans le tableau de bord. Un 402 erreur signifie que votre solde prépayé est épuisé.

La fenêtre de contexte prend en charge 100 000 tokens au total. Les requêtes dépassant cette limite retournent une erreur. Ajustez la taille de votre charge utile en conséquence pour maintenir les performances.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)