Швидкий старт Ollama Abliterated API

Автентифікація & налаштування базового URL

Налаштуйте клієнта з наданим базовим URL та ключем API для початку запитів. Ендпоінт: HTTPS://api.ollamaabliterated.com/v1, і ви повинні передати свій ключ в заголовку Authorization як токен bearer. Ця настройка працює з будь-якою OpenAI-сумісною SDK шляхом перевизначення типового базового URL.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

Зареєструйтеся через Google або електронну пошту на панелі керування, щоб миттєво отримати свій ключ.

Запит на базове завершення чату

Надішліть POST-запит до /v1/chat/completions із ідентифікатором моделі "uncensored" для отримання текстових відповідей. Модель працює без відмов у вмісті для законного дорослого використання, безпосередньо обробляючи дискусійні або NSFW теми. Ви можете керувати поведінкою за допомогою таких параметрів, як temperature та top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Кожен запит споживає вхідні токени для запиту та вивідні токени для згенерованої відповіді. Помилки та відмови не споживають кредит.

Потокові відповіді через SSE

Увімкніть потокову передачу, встановивши stream=true, щоб отримувати токени через події Server-Sent Events (SSE) у реальному часі. Цей підхід зменшує сприйняту затримку для генерації довгого контенту та дозволяє прогресивне оновлення інтерфейсу. Останній чанк містить повну статистику використання токенів для точності билінгу.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обробляйте подію завершення потоку, щоб завершити буфер відповіді та записати кількість токенів для відстеження витрат.

Виклик функцій & Підтримка інструментів

Визначте інструменти в тілі запиту, щоб увімкнути можливості виклику функцій у uncensored моделі. API підтримує tool_choice та передає визначення інструментів у стандартному форматі OpenAI. Це дозволяє отримувати структуровані дані або запускати дії без додаткової логіки парсингу.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Переконайтеся, що ваші схеми інструментів є дійсними об'єктами JSON. Модель повертає tool_calls, які ви повинні виконати та повернути в наступні запити, якщо це необхідно.

Конфігурація режиму JSON

Примусовий суворий вивід JSON шляхом встановлення response_format у {"type": "json_object"} у тілі запиту. Цей режим ідеально підходить для парсингу структурованих даних з LLM без постобробки регулярними виразами. Він гарантує, що відповідь завжди відповідає дійсному синтаксису JSON.

Використовуйте це для генерації конфігураційних файлів, запитів API або структурованих журналів. Поєднуйте з високими значеннями температури, якщо вам потрібні креативні варіації JSON.

Вирішення обмежень та помилок

Моніторьте стандартні коди статусу HTTP для ефективного оброблення помилок на стороні клієнта. 401 вказує на недійсний або прострочений API-ключ, тоді як 402 сигналізує про недостатній попередньо оплачений кредит. Помилка 429 означає, що ви перевищили ліміт швидкості у 300 запитів на хвилину.

Вікно контексту підтримує загальну кількість 100 000 токенів, з максимальним обсягом виводу 16 000 токенів за запит. Розмір тіла запиту має бути меншим за 8 МБ. Повернення коштів за баланс не здійснюється, але подвійні списання вирішуються через службу підтримки.