Ollama Abliterated API 빠른 시작

인증 및 Base URL 설정

제공된 base URL과 API 키로 클라이언트를 구성하여 요청을 시작하세요. 엔드포인트는 HTTPS://api.ollamaabliterated.com/v1이며 Authorization 헤더에 Bearer 토큰 형식으로 키를 전달해야 합니다. 이 설정은 기본 base URL을 재정의하여 모든 OpenAI 호환 SDK와 함께 작동합니다.

Copycurl https://api.ollamaabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the system prompt to relaxed mode"}]
  }'

대시보드에서 Google 또는 이메일을 통해 즉시 키를 받으세요.

기본 채팅 완성 요청

텍스트 응답을 받기 위해 모델 ID "uncensored"를 사용하여 /v1/chat/completions으로 POST 요청을 보내세요. 이 모델은 합법적인 성인 사용에 대해 콘텐츠 거부 없이 작동하며, 논쟁적이거나 NSFW 주제를 직접 처리합니다. temperature와 top_p과 같은 매개변수를 사용하여 동작을 제어할 수 있습니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

각 요청은 프롬프트에 대해 입력 토큰을, 생성된 응답에 대해 출력 토큰을 소모합니다. 오류와 거부 요청은 크레딧을 소모하지 않습니다.

SSE를 통한 스트리밍 응답

요청에 stream=true를 설정하여 실시간으로 서버 전송 이벤트(SSE)를 통해 토큰을 받습니다. 이 방법은 긴 형식 생성의 지각된 지연 시간을 줄이고 진행형 UI 업데이트를 허용합니다. 마지막 청크에는 청구 정확도를 위한 전체 토큰 사용량 통계가 포함됩니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

스트림 종료 이벤트를 처리하여 응답 버퍼를 최종화하고 비용 추적을 위해 토큰 카운트를 로깅하세요.

함수 호출 & 도구 지원

uncensored 모델 내에서 함수 호출 기능을 활성화하기 위해 요청에 도구를 정의하세요. API는 tool_choice를 지원하며 표준 OpenAI 형식으로 도구 정의를 전달합니다. 이를 통해 외부 구문 분석 로직 없이 구조화된 데이터 추출 또는 작업 트리거가 가능합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

툴 스키마가 유효한 JSON 객체여야 합니다. 모델은 도구 호출을 반환하며, 필요시 이를 실행하여 후속 요청에 피드백해야 합니다.

JSON 모드 구성

요청 페이로드에서 response_format을 {"type": "json_object"}로 설정하여 엄격한 JSON 출력을 강제합니다. 이 모드는 정규식 사후 처리 없이 LLM에서 구조화된 데이터를 구문 분석하는 데 이상적입니다. 응답이 매번 유효한 JSON 구문을 따르도록 보장합니다.

구성 파일, API 페이로드 또는 구조화된 로그 생성에 이 기능을 사용하세요. 창의적인 JSON 변형이 필요하면 높은 온도 값을 조합하세요.

제한 & 오류 처리

클라이언트 측 오류 처리를 효과적으로 관리하기 위해 표준 HTTP 상태 코드를 모니터링하세요. 401은 유효하지 않거나 만료된 API 키를 나타내고, 402는 미리 지불된 크레딧이 부족함을 의미합니다. 429 오류는 분당 300회 요청의 속도 제한을 초과했음을 의미합니다.

컨텍스트 창은 요청당 최대 출력 16,000개 토큰을 지원하는 총 100,000개의 토큰을 제공합니다. 요청 본문은 8 MB 미만이어야 합니다. 크레디에 대한 환불은 제공되지 않지만, 중복 과금은 지원팀을 통해 해결됩니다.