Szybki start API Ollama Abliterated

Uwierzytelnianie & konfiguracja URL bazowego

Skonfiguruj klienta z dostarczonym bazowym adresem URL i kluczem API, aby rozpocząć żądania. Endpoint to HTTPS://api.ollamaabliterated.com/v1 i musisz przekazać swój klucz w nagłówku Authorization jako token bearer. Ta konfiguracja działa z dowolnym SDK kompatybilnym z OpenAI, nadpisując domyślny bazowy adres URL.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

Zarejestruj się przez Google lub e-mail na panelu, aby natychmiast otrzymać swój klucz.

Żądanie Podstawowego Uzupełnienia Czat

Wyślij żądanie POST do /v1/chat/completions z identyfikatorem modelu "uncensored", aby otrzymać odpowiedzi tekstowe. Model działa bez odmów treści dla legalnego użytku dorosłych, bezpośrednio obsługując tematy kontrowersyjne lub NSFW. Zachowanie możesz kontrolować za pomocą parametrów takich jak temperatura i top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Każde żądanie zużywa tokeny wejściowe dla podpowiedzi i tokeny wyjściowe dla wygenerowanej odpowiedzi. Błędy i odmowy nie zużywają kredytu.

Odpowiedzi strumieniowe przez SSE

Włącz strumieniowanie, ustawiając stream=true, aby otrzymywać tokeny za pomocą zdarzeń Server-Sent Events (SSE) w czasie rzeczywistym. To podejście zmniejsza postrzeganą latencję przy generowaniu długich treści i pozwala na stopniowe aktualizacje interfejsu użytkownika. Ostatni fragment zawiera pełne statystyki zużycia tokenów dla dokładności rozliczeń.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Obsłuż zdarzenie końca strumienia, aby sfinalizować bufor odpowiedzi i zalogować liczby tokenów do śledzenia kosztów.

Wywoływanie funkcji & Wsparcie narzędzi

Zdefiniuj narzędzia w żądaniu, aby włączyć możliwości wywoływania funkcji w modelu uncensored. API obsługuje tool_choice i przekazuje definicje narzędzi w standardowym formacie OpenAI. Pozwala to na ekstrakcję danych strukturalnych lub wyzwalanie akcji bez konieczności zewnętrznej logiki parsowania.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Upewnij się, że Twoje schematy narzędzi są poprawnymi obiektami JSON. Model zwraca tool_calls, które musisz wykonać i przekazać do kolejnych żądań, jeśli jest to konieczne.

Konfiguracja trybu JSON

Wymuś ścisłe wyjście JSON, ustawiając response_format na {"type": "json_object"} w ładunku żądania. Tryb ten jest idealny do parsowania danych strukturalnych z LLM bez post-przetwarzania za pomocą regex. Zapewnia, że odpowiedź zawsze będzie zgodna z poprawną składnią JSON.

Użyj tego do generowania plików konfiguracyjnych, ładunków API lub strukturowanych logów. Połącz z wysokimi wartościami temperatury, jeśli potrzebujesz kreatywnych wariacji JSON.

Obsługa limitów & błędów

Monitoruj standardowe kody statusu HTTP, aby skutecznie zarządzać obsługą błędów po stronie klienta. 401 wskazuje na nieprawidłowy lub wygasły klucz API, podczas gdy 402 sygnalizuje niewystarczający kredyt z góry. Błąd 429 oznacza, że przekroczyłeś limit szybkości 300 żądań na minutę.

Okno kontekstowe obsługuje łącznie 100 000 tokenów, z maksymalną długością odpowiedzi wynoszącą 16 000 tokenów na żądanie. Rozmiary ciał żądań muszą mieścić się w limicie 8 MB. Zwroty środków nie są wydawane za kredyt, ale podwójne obciążenia są rozwiązywane przez dział wsparcia.