Ollama Abliterated API -pika-aloitus

Todennus & Base URL -asetukset

Määritä asiakasohjelmisto annetuilla base URLilla ja API-avaimella aloittaaksesi pyynnöt. Päätepiste on HTTPS://api.ollamaabliterated.com/v1 ja sinun on lähetettävä avaimesi Authorization-headeriin bearer-tokenina. Tämä kokoonpano toimii minkä tahansa OpenAI-yhteensopivan SDK:n kanssa ohittaen oletusbase URLin.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

Rekisteröidy Googlen tai sähköpostin kautta ohjauspaneelista saadaksesi avaimen välittömästi.

Peruskeskustelun täydennyspyyntö

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions mallitunnuksella "uncensored" saadaksesi tekstimuotoisia vastauksia. Malli toimii ilman sisältökieltoja lailliseen aikuisille suunnattuun käyttöön, käsitellen kiistanalaisia tai NSFW-aiheita suoraan. Voit hallita käyttäytymistä parametreilla kuten temperature ja top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Jokainen pyyntö kuluttaa syöttötokenit ohjeelle ja tuottotokenit tuotetulle vastaukselle. Virheet ja hylkäykset eivät kuluta kredittiä.

Streamausvastaukset SSE:n kautta

Ota virtauskäyttöön asettamalla stream=true vastaanottaaksesi tokenit Server-Sent Events -tapahtumien (SSE) kautta reaaliajassa. Tämä lähestymistapa vähentää koettua viivettä pitkän sisällön tuotannossa ja mahdollistaa käyttöliittymän progressiivisen päivittämisen. Viimeinen lohko sisältää kokonaistokenkäyttötilastot laskutuksen tarkkuutta varten.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Käsittele virtan lopputapahtumaa vastauspuskurin viimeistelyyn ja logita tokenilaskelmat kustannusten seurantaan.

Funktio Calling & Tool Support

Määritä työkalut pyyntöön mahdollistaaksesi funktiokutsut uncensored-mallissa. API tukee tool_choicea ja välittää työkelumääritykset standardissa OpenAI-muodossa. Tämä mahdollistaa rakenteellisen datan erottelun tai toimintojen käynnistämisen ilman ulkoista jäsentelyä.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Varmista, että työkaluskeemasi ovat kelvollisia JSON-objekteja. Malli palauttaa tool_calls -kutsut, jotka sinun on suoritettava ja syötettävä takaisin myöhempiin pyyntöihin tarvittaessa.

JSON-tilan määritys

Pakota tiukka JSON-tuloste asettamalla response_format arvoon {"type": "json_object"} pyyntöpayloadissa. Tämä tila on ihanteellinen rakenteellisen datan jäsentämiseen LLM:stä ilman regex-jälkikäsittelyä. Se varmistaa, että vastaus noudattaa kelvollista JSON-syntaksia joka kerta.

Käytä tätä konfiguraatiotiedostojen, API-pyyntöjen tai rakenteellisten lokien luomiseen. Yhdistä korkeita lämpötila-arvoja, jos tarvitset luovia JSON-vaihtoehtoja.

Rajojen ja virheiden käsittely

Seuraa yleisiä HTTP-tilakoodia hallitaksesi asiakaspuolen virheenkäsittelyä tehokkaasti. 401 viittaa virheelliseen tai vanhentuneeseen API-avaimen, kun taas 402 ilmoittaa riittämättömästä esimaksuluotosta. 429-virhe tarkoittaa, että olet ylittänyt nopeusrajan 300 pyyntöä minuutissa.

Konteksti-ikkuna tukee yhteensä 100 000 tokenia, enimmäistulosteena 16 000 tokenia pyyntöä kohti. Pyyntöjen rungon tulee pysyä alle 8 Mt:n. Saldoon ei myönnetä hyvityksiä, mutta kaksoisperusteet ratkaistaan tuen kautta.