Permulaan Pantas API Ollama Abliterated

Pengesahan & Penetapan URL Asas

Konfigurasikan klien anda dengan URL asas dan kunci API yang disediakan untuk memulakan permintaan. Endpoint ialah HTTPS://api.ollamaabliterated.com/v1 dan anda mesti menghantar kunci anda dalam header Authorization sebagai token bearer. Persediaan ini berfungsi dengan mana-mana SDK yang serasi dengan OpenAI dengan mengatasi URL asas lalai.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

Daftar melalui Google atau e-mel pada papan pemuka untuk menerima kunci anda serta-merta.

Permintaan Penyiapan Chat Asas

Hantar permintaan POST ke /v1/chat/completions dengan ID model "uncensored" untuk menerima respons teks. Model beroperasi tanpa penolakan kandungan untuk penggunaan dewasa yang sah, mengendalikan topik kontroversi atau NSFW secara langsung. Anda boleh mengawal tingkah laku menggunakan parameter seperti suhu dan top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Setiap permintaan menggunakan token input untuk prompt dan token output untuk respons yang dijana. Ralat dan penolakan tidak menggunakan kredit.

Respons Streaming Melalui SSE

Aktifkan penstriman dengan menetapkan stream=true untuk menerima token melalui Server-Sent Events (SSE) secara masa nyata. Pendekatan ini mengurangkan latensi yang dirasakan untuk penjanaan bentuk panjang dan membolehkan kemas kini UI progresif. Chunk terakhir mengandungi statistik penggunaan token lengkap untuk ketepatan pengebilan.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kendalikan acara akhir aliran untuk menyelesaikan penimbal respons anda dan log kiraan token untuk penjejakan kos.

Panggilan Fungsi & Sokongan Alat

Takrifkan alat dalam permintaan anda untuk membolehkan keupayaan panggilan fungsi dalam model uncensored. API menyokong tool_choice dan menghantar takrifan alat dalam format OpenAI piawai. Ini membolehkan pengekstrakan data terstruktur atau pencetus tindakan tanpa logik penguraian luaran.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pastikan skema alat anda adalah objek JSON yang sah. Model memulangkan tool_calls yang mesti anda jalankan dan suapkan semula ke permintaan seterusnya jika diperlukan.

Konfigurasi Mod JSON

Paksa output JSON ketat dengan menetapkan response_format kepada {"type": "json_object"} dalam payload permintaan anda. Mod ini sesuai untuk menguraikan data terstruktur dari LLM tanpa pasca-pemprosesan regex. Ia memastikan respons mematuhi sintaks JSON yang sah setiap masa.

Gunakan ini untuk menjana fail konfigurasi, beban API, atau log berstruktur. Gabungkan dengan nilai suhu tinggi jika anda memerlukan variasi JSON kreatif.

Menangani Had & Ralat

Pantau kod status HTTP piawai untuk mengurus pengendalian ralat sisi klien dengan berkesan. 401 menunjukkan kunci API tidak sah atau telah luput, manakala 402 menandakan kredit prabayar tidak mencukupi. Ralat 429 bermaksud anda telah melebihi had kadar 300 permintaan setiap minit.

Jendela konteks menyokong jumlah 100,000 token, dengan output maksimum 16,000 token setiap permintaan. Badan permintaan mesti kekal di bawah 8 MB. Bayaran balik tidak dikeluarkan untuk kredit, tetapi caj berganda diselesaikan melalui sokongan.