क्विकस्टार्ट: अनसेंसर्ड LLM API

SDK स्थापित और कॉन्फ़िगर करें

अपनी भाषा के लिए आधिकारिक OpenAI SDK को इंस्टॉल करके शुरू करें। हमारी API किसी भी मानक OpenAI-संगत क्लाइंट के साथ काम करती है, इसलिए आपको एक कस्टम लाइब्रेरी की आवश्यकता नहीं है। अपना base_url को HTTPS://api.ollamaapipricing.com/v1 औह अपनी खाता डैशबोर्ड से API कुंजी प्रदान करें। मॉडल पहचानकर्ष uncensored. यह एकल मॉडल सभी आपके टेक्स्ट जनरेशन की आवश्यकताओं को रूटिंग लॉजिक के बिना संभालता है।

प्रमाणीकरण एक मान्य कुंजी की आवश्यकता होती है। यदि आपको 401 त्रुटि दिखती है, तो आपकी कुंजी अमान्य है। यदि आपको 402 त्रुटि दिखती है, तो आपके पास क्रेडिट नहीं है। जारी रखने के लिए USDT या USDC के साथ टॉप-अप करें। बेस URL सुनिश्चित करता है कि आपके अनुरोध सीधे हमारे सर्वरों तक पहुँचते हैं।

अपनी पहली रिक्वेस्ट भेजें

एक POST अनुरोध करें /v1/chat/completions अपने प्रॉम्प्ट के साथ। मॉडल केवल टेक्स्ट के साथ प्रतिक्रिया देता है। आप max_tokens. डिफ़ॉल्ट अधिकतम आउटपुट 2,048 टोकन है जब तक कि आप अलग से न निर्दिष्ट करें। कॉन्टेक्स्ट विंडो प्रॉम्प्ट और कंप्लीशन दोनों के लिए 100,000 टोकन तक का समर्थन करता है।

कनेक्टिविटी और प्रतिक्रिया गुणवत्ता की पुष्टि करने के लिए निम्नलिखित उदाहरण का उपयोग करें। messages अपने use case के अनुसार array को fit करें।

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

स्ट्रीमिंग और टूल्स सक्षम करें

स्ट्रीमिंग Server-Sent Events (SSE) के माध्यम से टोकन लौटाता है। अंतिम चंक में कुल टोकन उपयोग के आंकड़े होते हैं। इससे आप रियल-टाइम में प्रतिक्रियाएं दिखा सकते हैं और लागत की सटीक निगरानी कर सकते हैं। फंक्शन कॉलिंग भी समर्थित है। आप अपने अनुरोध में टूल्स परिभाषित कर सकते हैं और मॉडल को चुनने दे सकते हैं कि किसका उपयोग करें।

सेट करें stream को true आपके SDK कॉन्फ़िगरेशन में। प्रतिक्रिया चंक्स की एक श्रृंखला के रूप में आएगी। अपने एप्लिकेशन लॉजिक में प्रत्येक चंक का उचित रूप से प्रबंधन करें। यह दृष्टिकोण लंबी प्रतिक्रियाओं की प्रतीक्षा कर रहे उपयोगकर्ताओं के लिए अनुपलब्ध विलंबता को कम करता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

JSON मोड प्रतिक्रियाओं को हैंडल करें

उपयोग करें response_format सेट {"type": "json_object"} संरचित आउटपुट लागू करने के लिए। यह डेटा पार्स करने या कोड जनरेट करने के लिए उपयोगी है। मॉडल प्रॉम्प्ट में प्रदान किए गए JSON स्कीमा का पालन करता है। यदि आउटपुट अमान्य है, तो अनुरोध विफल हो सकता है या खराब-प्रारूप वाला JSON लौटा सकता है।

मजबूत टूल एकीकरण के लिए JSON मोड को फ़ंक्शन कॉलिंग के साथ जोड़ें। सुनिश्चित करें कि आपके प्रॉम्प्ट्स में अपेक्षित संरचना स्पष्ट रूप से परिभाषित की गई है। इससे पोस्ट-प्रोसेसिंग त्रुटियों की आवश्यकता कम होती है। API स्वयं JSON संरचना की जांच नहीं करता है, इसलिए मॉडल के प्रशिक्षण पर भरोसा करें।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

टोकन उपयोग को समझें

मूल्य निर्धारण है $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन. त्रुटियां और अस्वीकृतियां मुफ्त हैं। क्रेडिट केवल सफल टोकन जनरेशन के लिए चार्ज किया जाता है। पूर्व-भुगतान क्रेडिट कभी समाप्त नहीं होता है। यह मॉडल कानूनी वयक उपयोग के लिए अनसेंसर्ड है, जिसका अर्थ है कि मानक विषयों के लिए कम अस्वीकृतियां।

स्ट्रीमिंग प्रतिक्रियाओं के अंतिम चंक या API प्रतिक्रिया हेडर्स के माध्यम से अपने उपयोग की निगरानी करें। सेवा विघटन से बचने के लिए अपने बैलेंस की निगरानी करें। आप किसी भी समय क्रिप्टो के साथ टॉप-अप कर सकते हैं। सिस्टम प्रति अनुरोध लागत के बारे में पारदर्शी है। कोई छिपा शुल्क नहीं है।

सीमाएं और त्रुटियां

रेट लिमिट्स प्रति मिनट 300 अनुरक्षण और प्रति की 8 कंकरेंट अनुरक्षण हैं। अनुरक्षण बॉसी साइज सीमा 8 MB है। यदि आप इन सीमाओं को पार करते हैं, तो आपको एक 429 त्रुटि प्राप्त होगी। रीट्राई को संभालने के लिए एक्सपोनेंशियल बैकऑफ का उपयोग करें। प्रत्येक खाते में एक सक्रिय की होती है। एक नई की जनरेट करने से पुरानी की तुरंत बदल जाती है।

त्रुटियों को सहजता से हैंडल करें। 401 त्रुटि का अर्थ है कि कुंजी अमान्य है। 402 त्रुटि का अर्थ है अपर्याप्त क्रेडिट। 429 त्रुटि का अर्थ है कि आप दर सीमित हैं। API SLA या अपटाइम गारंटी नहीं देता है। अपने पुनः प्रयासों की योजना उचित ढंग से बनाएं।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)