מדריך ההתחלה המהירה ל-API של Ollama Abliterated

אימות & הגדרת כתובת הבסיס

הגדר את הלקוח שלך עם כתובת ה-URL הבסיסית שסופקה ומפתח ה-API כדי להתחיל בקשות. נקודת הקצה היא HTTPS://api.ollamaabliterated.com/v1 ואתה חייב להעביר את המפתח שלך בראש ההרשאה כאסימון bearer. תצורה זו עובדת עם כל SDK תואם OpenAI על ידי עקיפת כתובת ה-URL הבסיסית המוגדרת כברירת מחדל.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

הירשם דרך Google או אימייל בלוח הבקרה כדי לקבל את המפתח שלך מיידית.

בקשת השלמת צ'אט בסיסית

שלח בקשת POST ל-/v1/chat/completions עם מזהה המודל "uncensored" כדי לקבל תגובות טקסט. המודל פועל ללא סירובי תוכן לשימוש מבוגר חוקי, ומטפל בנושאים שנויים במחלוקת או NSFW בצורה ישירה. ניתן לשלוט בהתנהגות באמצעות פרמטרים כמו טמפרטורה ו-top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

כל בקשה צורכת טוקני קלט לפקודה וטוקני פלט לתגובה שנוצרה. שגיאות וסירובים לא צורכים אשראי.

תגובות בסטרימינג באמצעות SSE

אפשרו זרמת נתונים על ידי הגדרת stream=true כדי לקבל מטבעות באמצעות אירועי Server-Sent Events (SSE) בזמן אמת. גישה זו מפחיתה את תחומת העיכוב ליצירת תוכן ארוך ומאפשרת עדכוני ממשק משתמש פרוגרסיביים. המקטע הסופי מכיל את סטטיסטיקות השימוש המלאות במטבעות לדיוק החיוב.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

טפל באירוע סיום הזרם כדי לסיים את מטמון התגובה שלך ולרשום את ספירות הטוקנים למעקב אחר עלויות.

Tool Calling & תמיכה בכלים

הגדירו כלים בבקשה כדי לאפשר יכולות קריאה לפונקציות בתוך המודל ללא צנזורה. ה-API תומך ב-tool_choice ועובר הגדרות כלים בפורמט הסטנדרטי של OpenAI. זה מאפשר חילוץ נתונים מבניים או הפעלת פעולות ללא לוגיקת פירוש חיצונית.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ודא שהסקמות של הכלים שלך הן אובייקטים JSON תקפים. המודל מחזיר tool_calls שיש לבצע ולהזין בחזרה לבקשות הבאות אם נדרש.

תצורת מצב JSON

כף פלט JSON קפדני על ידי הגדרת response_format ל-{"type": "json_object"} ב-payload הבקשה שלך. מצב זה אידיאלי לפיענוח נתונים מבניים מ-LLL ללא עיבוד אחורי של regex. זה מבטיח שהתגובה תעמוד בתחביר JSON תקף בכל פעם.

השתמשו בזה ליצירת קבצי תצורה, מטעני API או יומנים מבניים. שלבו עם ערכי טמפרטורה גבוהים אם אתם צריכים וריאציות JSON יצירתיות.

טיפול במגבלות & שגיאות

מעקב אחר קודי סטטוס HTTP סטנדרטיים כדי לנהל טיפול בשגיאות בצד הלקוח ביעילות. 401 מצביע על מפתח API לא תקין או פג תוקף, בעוד ש-402 מציין אשראי ששולם מראש לא מספיק. שגיאה 429 אומרת שחצית את מגבלת הקצב של 300 בקשות לדקה.

חלון ההקשר תומך ב-100,000 טוקנים בסך הכל, עם פלט מקסימלי של 16,000 טוקנים לכל בקשה. גופי הבקשות חייבים להישאר מתחת ל-8 MB. החזרים לא מונפקים עבור אשראי, אך חיובים כפולים נפתרים דרך התמיכה.