Ollama Abliterated API เริ่มต้นใช้งาน

Authentication & Base URL Setup

กำหนดค่า client ของคุณด้วย URL พื้นฐานและ API key ที่ให้ไว้เพื่อเริ่มคำขอ endpoint คือ HTTPS://api.ollamaabliterated.com/v1 และคุณต้องส่ง key ของคุณใน header Authorization เป็น bearer token การตั้งค่านี้ใช้งานได้กับ SDK ที่เข้ากันได้กับ OpenAI ใดๆ โดยการแทนที่ URL พื้นฐานเริ่มต้น

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

ลงทะเบียนผ่าน Google หรืออีเมลบนแดชบอร์ดเพื่อรับคีย์ของคุณทันที

คำขอการเสร็จสิ้นแชทพื้นฐาน

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อม id โมเดล "uncensored" เพื่อรับข้อความตอบกลับ โมเดลทำงานโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย จัดการหัวข้อที่ถกเถกันหรือ NSFW โดยตรง คุณสามารถควบคุมพฤติกรรมด้วยพารามิเตอร์เช่น temperature และ top_p

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

แต่ละคำขอจะบริโภค input tokens สำหรับ prompt และ output tokens สำหรับคำตอบที่สร้าง ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต

การตอบกลับแบบสตรีมมิ่งผ่าน SSE

เปิดใช้งานการสตรีมโดยการตั้งค่า stream=true เพื่อรับโทเค็นผ่าน Server-Sent Events (SSE) แบบเรียลไทม์ วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกเมื่อสร้างเนื้อหาแบบยาว และอนุญาตให้อัปเดตอินเทอร์เฟซผู้ใช้แบบต่อเนื่อง ชิ้นสุดท้ายจะมีสถิติการใช้โทเค็นที่สมบูรณ์เพื่อความแม่นยำในการเรียกเก็บเงิน

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการเหตุการณ์สิ้นสุดสตรีมเพื่อสรุปบัฟเฟอร์การตอบกลับของคุณและบันทึกจำนวนโทเค็นเพื่อติดตามต้นทุน

การเรียกใช้ฟังก์ชัน & การรองรับเครื่องมือ

กำหนดเครื่องมือในคำขอเพื่อเปิดใช้งานความสามารถการเรียกใช้ฟังก์ชันภายในโมเดล uncensored API รองรับ tool_choice และส่งคำจำกัดความของเครื่องมือในรูปแบบมาตรฐานของ OpenAI ซึ่งอนุญาตให้ดึงข้อมูลที่มีโครงสร้างหรือกระตุ้นการดำเนินการโดยไม่ต้องใช้ตรรกะการแยกวิเคราะห์ภายนอก

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ตรวจสอบให้แน่ใจว่าสคีมาเครื่องมือของคุณเป็นวัตถุ JSON ที่ถูกต้อง โมเดลส่งกลับ tool_calls ที่คุณต้องดำเนินการและป้อนกลับเข้าไปในคำขอถัดไปหากจำเป็น

การกำหนดค่าโหมด JSON

บังคับใช้เอาต์พุต JSON ที่เข้มงวดโดยตั้งค่า response_format เป็น {"type": "json_object"} ในโหลดคำขอของคุณ โหมดนี้เหมาะสำหรับการแยกวิเคราะห์ข้อมูลที่มีโครงสร้างจาก LLM โดยไม่ต้องประมวลผลหลังด้วย regex มันทำให้มั่นใจว่าคำตอบจะสอดคล้องกับไวยากรณ์ JSON ที่ถูกต้องทุกครั้ง

ใช้สิ่งนี้สำหรับการสร้างไฟล์กำหนดค่า โหลดข้อมูล API หรือบันทึกโครงสร้างรวมกันกับค่าอุณหภูมิสูงหากคุณต้องการความหลากหลายของ JSON แบบสร้างสรรค์

Handling Limits & Errors

ติดตาม HTTP status codes มาตรฐานเพื่อจัดการ error ด้านไคลเอนต์ได้อย่างมีประสิทธิภาพ status 401 แสดงถึงคีย์ API ไม่ถูกต้องหรือหมดอายุ ในขณะที่ 402 บ่งชี้ว่าเครดิตพรีเพดไม่เพียงพอ error 429 หมายถึงคุณเกินขีดจำกัด rate limit ที่ 300 requests ต่อนาที

หน้าต่างบริบทรองรับ 100,000 tokens รวม พร้อมผลลัพธ์สูงสุด 16,000 tokens ต่อคำขอ Body ของคำขอต้องอยู่ภายใต้ 8 MB ไม่มีการคืนเครดิต แต่กรณีการเรียกเก็บเงินซ้ำจะแก้ไขผ่านฝ่ายสนับสนุน