क्विकस्टार्ट: अनसेंसर्ड LLM API इंटीग्रेशन
शून्य कोड बदलावों के साथ अपने मौजूदा OpenAI SDK में हमारा अनसेंसर्ड LLM डालें। यह क्विकस्टार्ट आपको एक वास्तविक OpenAI कम्पैटिबल एंडपॉइंट के लिए कॉन्फ़िगरेशन, स्ट्रीमिंग और एरर हैंडलिंग में मार्गदर्शन करता है।
OpenAI SDK इंस्टॉल करें
पहले official library को अपने project में add करें। यह temperature और top_p जैसे standard parameters के साथ compatibility सुनिश्चित करता है। library serialization को स्वचालित रूप से handle करती है।
- पायथन और जावास्क्रिप्ट वातावरण का समर्थन करता है।
- कनेक्शन पूलिंग को कुशलता से प्रबंधित करता है।
- मानक OpenAI संगत API संरचनाओं के साथ संगत रहता है।
इस चरण में आपकी तत्काल एकीकरण के लिए अपने वातावरण को तैयार करता है।
बेसिक टेक्स्ट जनरेशन के लिए आपको विशेष संस्करण की आवश्यकता नहीं है। लाइब्रेरी मानक प्रमाणीकरण हेडर को सहजता से सपोर्ट करती है।
अपना बेस URL कॉन्फ़िगर करें
अपने क्लाइंट को हमारे एंडपॉइंट की ओर निर्देशित करें ताकि मानक कंटेंट फ़िल्टर्स को बायपास किया जा सके। बेस यूआरएल का उपयोग करें https://api.openaipricingapi.com/v1 सभी अनुरोधों के लिए। यह एकल परिवर्तन ट्राफ़िक को हमारे अनसेंसर्ड LLM इंफ्रास्ट्रक्चर की ओर रीडायरेक्ट करता है।
अपनी API कुंजी को मानक Authorization हेडर। डैशबोर्ड से प्राप्त कुंजी पास करें। क्लाइंट डेटा भेजने से पहले क्रेडेंशियल की सत्यापन करता है।
सुनिश्चित करें कि आप मॉडल ID uncensored उत्तम प्रदर्शन के लिए। यह पहचानकर्ता सर्वर को बताता है कि आपका अनुरोध किस मॉडल को रूट करना है। कोई अन्य मॉडल ID समर्थित नहीं है।
अपनी पहली चैट पूर्णता करें
कनेक्टिविटी की पुष्टि करने के लिए एक सरल संदेश भेजें। मानक चैट पूरक एंडपॉइंट का उपयोग एक सिस्टम प्रॉम्प्ट और उपयोगकर्ता संदेश के साथ करें। प्रतिक्रिया सीधे पाठ लौटाती है।
सफलता की पुष्टि करने के लिए स्टेटस कोड की जाँच करें। 200 OK स्टेटस संकेत देता है कि अनुरोध सही तरीके से प्रोसेस हुआ। त्रुटियां डिबगिंग के लिए विशिष्ट कोड लौटाती हैं।
सटीकता के लिए आउटपुट की समीक्षा करें। मॉडल कानूनी वयस्क सामग्री के बिना उत्तर देता है। व्यवहार की पुष्टि करने के लिए विविध विषयों के साथ परीक्षण करें।
स्ट्रीमिंग और फंक्शन कॉलिंग सक्षम करें
वास्तविक समय में टोकन प्राप्त करने के लिए स्ट्रीमिंग को सक्रिय करें। सेट stream=True आपके अनुरोध में। क्लाइंट उपलब्ध होते ही chunks yield करता है। इससे अनुभवजन्य विलंबता काफी कम हो जाती है।
अपने पेलोड में टूल्स को परिभाषित करके फंक्शन कॉलिंग तक पहुंचें। मॉडल निष्पादन के लिए संरचित तर्क लौटाता है। अपने बैकएंड लॉजिक को ट्रिगर करने के लिए JSON आउटपुट को पार्स करें।
जटिल वर्कफ़्लो के लिए स्ट्रीमिंग को टूल्स के साथ संयोजित करें। आंशिक प्रतिक्रियाओं को सहजता से हैंडल करें। टोकन गणना के लिए अंतिम चंक को प्रोसेस करने के लिए अपने कोड की सुनिश्चित करें।
टोकन और उपयोग डेटा को हैंडल करें
अपने पूर्व-भुगतान क्रेडिट का प्रबंधन करने के लिए टोकन उपयोग की निगरानी करें। API चार्ज $0.15 per 1M इनपुट टोकन और $0.50 per 1M आउटपुट टोकन। त्रुटियां क्रेडिट नहीं खातीं।
अंतिम स्ट्रीमिंग चंक से उपयोग डेटा को पार्स करें। यह सटीक इनपुट और आउटपुट गणना प्रदान करता है। अपने एप्लिकेशन लॉग में लागत ट्रैक करें।
रिफंड केवल बिलिंग त्रुटियों पर लागू होते हैं। खरीदे जाने के बाद क्रेडिट कभी समाप्त नहीं होता है। भविष्य की खर्च की सटीक भविष्यवाणी करने के लिए उपयोग डेटा का उपयोग करें।
रेट लिमिट्स और त्रुटियों को समझें
एक की उम्मीद करें 429 त्रुटि यदि आप प्रति मिनट 300 अनुरोधों से अधिक भेजते हैं। विचलन से बचने के लिए अपने क्लाइंट को थ्रॉटल करें। प्रति कुंई समवर्ती अनुरोध 8 तक सीमित हैं।
ए 401 त्रुटि अमान्य या अनुपलब्ध API कुंजी को दर्शाती है। अपने प्रमाणीकरण डैशबोर्ड में सत्यापित करें। A 402 त्रुटि का अर्थ है कि आपकी पूर्व-भुगतान वाली शेष राशि समाप्त हो गई है।
संदर्भ विंडो कुल 100,000 टोकन तक समर्थित है। इस सीमा से अधिक अनुरोध एक त्रुटि लौटाते हैं। प्रदर्शन बनाए रखने के लिए अपने पेलोड साइज़ को उचित रूप से समायोजित करें।
cURL
curl https://api.openaipricingapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);स्ट्रीमिंग
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)अक्सर पूछे जाने वाले प्रश्न
क्या यह एक सच्चा OpenAI मूल्य निर्धारण API विकल्प है?
हाँ, हमारा एंडपॉइंट मानक OpenAI संगत पेलोड स्वीकार करता है और मानक JSON प्रतिक्रियाएं लौटाता है। आप अपने कोड संरचना को संशोधित किए बिना आधिकारिक OpenAI SDKs का उपयोग कर सकते हैं। मूल्य निर्धारण मॉडल सब्सक्रिप्शन के बजाय पूर्वभुगतान क्रेडिट का उपयोग करके अलग है।
यदि मुझे 402 एरर मिलता है तो क्या होता है?
402 त्रुटि संकेत देती है कि आपके पूर्व-भुगतान क्रेडिट शेष राशि शून्य है। आपको सेवा जारी रखने के लिए USDT या USDC का उपयोग करके टॉप अप करना होगा। विफल अनुरोधों के दौरान त्रुटियां आपका क्रेडिट नहीं खपती हैं, इसलिए आप सुरक्षित रूप से पुनः प्रयास कर सकते हैं।
कॉन्टेक्स्ट विंडो कितनी बड़ी है?
मॉडल इनपुट और आउटपुट दोनों के लिए 100,000 टोकन की कॉन्टेक्स्ट विंडो का समर्थन करता है। आप एकल प्रतिक्रिया के लिए 16,000 टोकन निर्दिष्ट कर सकते हैं। सीमा से अधिक अनुरोध तुरंत विफल हो जाएंगे।
अपना API key प्राप्त करें
साइन अप करें, कुंजी प्राप्त करें, अपनी बेस यूआरएल अपडेट करें। बस यही है।