Ollama Abliterated API क्विकस्टार्ट

प्रमाणीकरण और बेस यूआरएल सेटअप

प्रदान किए गए बेस URL और API कुंजी के साथ अपने क्लाइंट को कॉन्फ़िगर करें ताकि अनुरोध शुरू किए जा सकें। एंडपॉइंट HTTPS://api.ollamaabliterated.com/v1 है और आपको अपनी कुंजी को Authorization हेडर में bearer टोकन के रूप में पास करना होगा। यह सेटअप डिफ़ॉल्ट बेस URL को ओवरराइड करके किसी भी OpenAI-compatible SDK के साथ काम करता है।

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

डैशबोर्ड पर Google या ईमेल के माध्यम से रजिस्टर करें ताकि आपकी कुंजी तुरंत प्राप्त हो सके।

बेस चैट कंप्लीशन रिक्वेस्ट

"uncensored" मॉडल आईडी के साथ /v1/chat/completions पर POST अनुरोध भेजें ताकि टेक्स्ट प्रतिक्रिया प्राप्त की जा सके। मॉडल कानूनी वयस्क उपयोग के लिए सामग्री अस्वीकृति के बिना काम करता है, विवादास्पद या NSFW विषयों को सीधे संभालता है। आप तापमान और top_p जैसे पैरामीटर का उपयोग करके व्यवहार को नियंत्रित कर सकते हैं।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

प्रत्येक अनुरोध प्रॉम्प्ट के लिए इनपुट टोकन और उत्पन्न प्रतिक्रिया के लिए आउटपुट टोकन खर्च करता है। त्रुटियां और अस्वीकृतियां क्रेडिट खर्च नहीं करतीं।

SSE के माध्यम से स्ट्रीमिंग रिस्पॉन्सेस

स्ट्रीमिंग को सक्षम करने के लिए stream=true सेट करें। Server-Sent Events (SSE) के माध्यम से रियल-टाइम में टोकन प्राप्त करें। यह दृष्टिकोण लंबी सामग्री जनरेशन के लिए अनुभवगत विलंबता को कम करता है और प्रगतिशील UI अपडेट की अनुमति देता है। अंतिम चंक में बिलिंग सटीकता के लिए पूर्ण टोकन उपयोग सांख्यिकी होती है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

अपने प्रतिक्रिया बफर को फाइनलाइज करने और लागत ट्रैकिंग के लिए टोकन गणना लॉग करने के लिए स्ट्रीम एंड इवेंट हैंडल करें।

फंक्शन कॉलिंग & टूल समर्थन

अनसेंसर्ड मॉडल के भीतर फंक्शन कॉलिंग क्षमताओं को सक्षम करने के लिए अपने रिक्वेस्ट में टूल्स परिभाषित करें। API tool_choice और मानक OpenAI फॉर्मेट में टूल डिफिनिशंस पास करता है। इससे बाहरी पार्सिंग लॉजिक के बिना स्ट्रक्चर्ड डेटा एक्सट्रैक्शन या एक्शन ट्रिगरिंग संभव होती है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

सुनिश्चित करें कि आपकी टूल स्कीमा मान्य JSON ऑब्जेक्ट हैं। मॉडल tool_calls लौटाता है जिन्हें आपको निष्पादित करना है और यदि आवश्यक हो तो बाद के अनुरोधों में वापस फीड करना है।

JSON मोड कॉन्फ़िगरेशन

अपने अनुरण पेलोड में response_format को {"type": "json_object"} सेट करके कड़ा JSON आउटपुट फ़ोर्स करें। यह मोड LLM से संरचित डेटा पार्स करने के लिए आदर्श है बिना regex पोस्ट-प्रोसेसिंग के। यह सुनिश्चित करता है कि प्रतिक्रिया हर बार मान्य JSON सिंटैक्स का पालन करे।

कॉन्फ़िगरेशन फ़ाइलों, API पेलोड, या संरचित लॉग जनरेट करने के लिए इसका उपयोग करें। यदि आपको रचनात्मक JSON विविधताओं की आवश्यकता है तो उच्च तापमान मानों के साथ संयोजन करें।

लिमिट्स और त्रुटियाँ हैंडल करना

क्लाइंट-साइड त्रुटि हैंडलिंग को प्रभावी ढंग से प्रबंधित करने के लिए मानक HTTP स्थिति कोड की निगरानी करें। 401 अमान्य या समाप्त हो चुकी API कुंजी को दर्शाता है, जबकि 402 अपर्याप्त प्रीपेड क्रेडिट को संकेत करता है। 429 त्रुटि का अर्थ है कि आपने प्रति मिनट 300 अनुरोधों की दर सीमा को पार कर लिया है।

संदर्भ विंडो कुल 100,000 टोकन तक समर्थित है, जिसमें प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। अनुरोध बॉडी 8 MB से कम रहनी चाहिए। क्रेडिट के लिए रिफंड जारी नहीं किए जाते हैं, लेकिन डबल चार्ज सहायता के माध्यम से हल किए जाते हैं।