Bắt đầu nhanh API Ollama Abliterated

Xác thực & Thiết lập Base URL

Cấu hình client của bạn với URL gốc được cung cấp và khóa API để bắt đầu các yêu cầu. Điểm cuối là HTTPS://api.ollamaabliterated.com/v1 và bạn phải truyền khóa của mình trong tiêu đề Authorization dưới dạng token bearer. Cấu hình này hoạt động với bất kỳ SDK tương thích OpenAI nào bằng cách ghi đè URL gốc mặc định.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

Đăng ký qua Google hoặc email trên bảng điều khiển để nhận khóa của bạn ngay lập tức.

Yêu cầu Hoàn thành Trò chuyện Cơ bản

Gửi yêu cầu POST đến /v1/chat/completions với model ID "uncensored" để nhận phản hồi văn bản. Mô hình hoạt động mà không từ chối nội dung đối với mục đích người trưởng thành hợp pháp, xử lý trực tiếp các chủ đề gây tranh cãi hoặc NSFW. Bạn có thể kiểm soát hành vi bằng các tham số như temperature và top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mỗi yêu cầu tiêu thụ token đầu vào cho lời nhắc và token đầu ra cho phản hồi được tạo ra. Các lỗi và từ chối không tiêu thụ tín dụng.

Phản hồi luồng qua SSE

Bật chế độ streaming bằng cách đặt stream=true để nhận các token thông qua các sự kiện Server-Sent Events (SSE) theo thời gian thực. Phương pháp này giảm độ trễ cảm nhận đối với quá trình tạo nội dung dạng dài và cho phép cập nhật giao diện người dùng theo từng phần. Chunk cuối cùng chứa thống kê sử dụng token đầy đủ để đảm bảo độ chính xác khi tính phí.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý sự kiện kết thúc luồng để hoàn tất bộ đệm phản hồi của bạn và ghi lại số lượng token để theo dõi chi phí.

Gọi hàm & Hỗ trợ công cụ

Định nghĩa các công cụ trong yêu cầu của bạn để kích hoạt khả năng gọi hàm trong mô hình không kiểm duyệt. API hỗ trợ tool_choice và truyền định nghĩa công cụ theo định dạng chuẩn của OpenAI. Điều này cho phép trích xuất dữ liệu có cấu trúc hoặc kích hoạt hành động mà không cần logic phân tích cú pháp bên ngoài.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Đảm bảo các lược đồ công cụ của bạn là các đối tượng JSON hợp lệ. Mô hình trả về các tool_calls mà bạn phải thực thi và đưa lại vào các yêu cầu tiếp theo nếu cần.

Cấu hình Chế độ JSON

Buộc đầu ra JSON nghiêm ngặt bằng cách đặt response_format thành {"type": "json_object"} trong tải trọng yêu cầu của bạn. Chế độ này lý tưởng để phân tích cú pháp dữ liệu có cấu trúc từ LLM mà không cần xử lý hậu kỳ bằng regex. Nó đảm bảo phản hồi tuân thủ cú pháp JSON hợp lệ mỗi lần.

Sử dụng điều này để tạo tệp cấu hình, tải trọng API hoặc nhật ký có cấu trúc. Kết hợp với các giá trị nhiệt độ cao nếu bạn cần các biến thể JSON sáng tạo.

Xử lý Giới hạn & Lỗi

Theo dõi các mã trạng thái HTTP tiêu chuẩn để xử lý lỗi phía máy khách hiệu quả. 401 cho biết khóa không hợp lệ hoặc đã hết hạn, trong khi 402 báo hiệu không đủ tín dụng trả trước. Lỗi 429 có nghĩa là bạn đã vượt quá giới hạn tốc độ 300 yêu cầu mỗi phút.

Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token, với lượng output tối đa là 16.000 token mỗi yêu cầu. Thân yêu cầu phải dưới 8 MB. Hoàn tiền không được cấp cho credit, nhưng các khoản tính trùng sẽ được giải quyết qua bộ phận hỗ trợ.