Ollama Abliterated API gyors kezdés

Hitelesítés & Base URL beállítás

Konfigurálja az ügyfélt a megadott alap URL-vel és API kulccsal a kérések megkezdéséhez. A végpont: HTTPS://api.ollamaabliterated.com/v1, és meg kell adnia a kulcsát az Authorization fejlécben Bearer tokenként. Ez a beállítás bármely OpenAI-kompatibilis SDK-val működik az alapértelmezett alap URL felülírásával.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

Regisztráljon Google-fiókkal vagy e-maillel az irányítópulton, hogy azonnal megkapja a kulcsát.

Alap Chat Befejezés Kérés

Küldjön egy POST kérést a /v1/chat/completions végpontra az "uncensored" modellazonosítóval szöveges válaszok fogadásához. A modell tartalmi visszautasítások nélkül működik jogszerű felnőtt felhasználás esetén, közvetlenül kezeli a vitatott vagy NSFW témákat. A viselkedést a temperature és top_p paraméterekkel szabályozhatja.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Minden kérés bemeneti tokeneket fogyaszt a prompt számára, és kimeneti tokeneket a generált válasz számára. A hibák és a visszautasítások nem fogyasztanak kreditet.

Streamelési válaszok SSE-n keresztül

A streamelés engedélyezéséhez állítsa a stream=true értéket a valós idejű tokenek fogadásához Server-Sent Events (SSE) formátumban. Ez a megközelítés csökkenti az észlelt késleltetést hosszú tartalmak generálásakor, és lehetővé teszi a fokozatos felhasználói felület frissítéseket. Az utolsó chunk tartalmazza a teljes token-felhasználási statisztikákat a pontos számlázás érdekében.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kezelje a stream vég eseményt a válasz pufferének véglegesítéséhez és a token számok naplózásához a költségkövetéshez.

Funkcióhívás & Eszköz támogatás

Határozza meg az eszközöket a kérésben a függvényhívási képességek engedélyezéséhez az uncensored modellben. Az API támogatja a tool_choice paramétert, és az eszközdefiníciókat a szabványos OpenAI formátumban továbbítja. Ez lehetővé teszi a strukturált adatok kinyerését vagy a műveletek elindítását külső elemző logika nélkül.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Győződjön meg arról, hogy az eszközsémák érvényes JSON objektumok. A modell tool_calls-t ad vissza, amelyeket végreh kell hajtani és visszajuttatni a következő kérésekbe, ha szükséges.

JSON mód konfiguráció

Szigorú JSON kimenet kényszerítése a response_format beállításával {"type": "json_object"} a kérés payloadjában. Ez a mód ideális a strukturált adatok elemzéséhez az LLM-ből regex utófeldolgozás nélkül. Biztosítja, hogy a válasz minden esetben érvényes JSON szintaxist tartson be.

Használja ezt konfigurációs fájlok, API-payloadok vagy strukturált naplók generálásához. Kombinálja magas hőmérsékletértékekkel, ha kreatív JSON variációkra van szüksége.

Korlátok és hibák kezelése

Figyelje a szabványos HTTP státuskódokat a kliens oldali hibakezelés hatékony kezeléséhez. A 401-es érvénytelen vagy lejárt API kulcsot jelez, míg a 402-es elégtelen előre fizetett hitelt. A 429-es hiba azt jelenti, hogy meghaladta a percenkénti 300 kéréses sebességkorlátot.

A kontextusablak 100 000 tokent tesz lehetővé, kérésenkénti maximális kimenettel 16 000 token. A kérések törzse 8 MB alatt kell maradjon. A hitelre nem adnak visszatérítést, de a dupla terheléseket a támogatás oldja meg.