빠른 시작: 무검열 LLM API

SDK 설치 및 구성

사용하는 언어에 대한 공식 OpenAI SDK를 설치하세요. 우리 API는 모든 표준 OpenAI 호환 클라이언트와 호환되므로 사용자 정의 라이브러리가 필요하지 않습니다. API 키를 설정하세요. base_url 수신하여 HTTPS://api.ollamaapipricing.com/v1 계정 대시보드에서 API 키를 제공하세요. 모델 식별자는 uncensored. 이 단일 모델은 라우팅 로직 없이 모든 텍스트 생성 필요를 처리합니다.

인증에는 유효한 키가 필요합니다. 401 오류가 표시되면 키가 유효하지 않습니다. 402 오류가 표시되면 잔액이 없습니다. USDT 또는 USDC로 충전하여 계속하세요. 베이스 URL은 요청이 서버에 직접 도달하도록 보장합니다.

첫 번째 요청 보내기

/v1/chat/completions으로 POST 요청을 보내세요. /v1/chat/completions 프롬프트를 사용합니다. 모델은 텍스트만 응답합니다. 다음을 사용하여 응답 길이를 제어할 수 있습니다 max_tokens. 기본 최대 출력은 달리 지정하지 않는 한 2,048 토큰입니다. 컨텍스트 윈도우는 프롬프트 및 완성을 합쳐 최대 100,000 토큰을 지원합니다.

연결 및 응답 품질을 확인하려면 다음 예시를 사용하세요. messages 사용 사례에 맞는 배열입니다.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

스트리밍 및 도구 활성화

스트리밍은 서버 전송 이벤트(SSE)를 통해 토큰을 반환합니다. 마지막 청크에는 전체 토큰 사용량 통계가 포함됩니다. 이를 통해 실시간으로 응답을 표시하면서도 비용을 정확하게 추적할 수 있습니다. 함수 호출도 지원됩니다. 요청에 도구를 정의하고 모델이 어떤 도구를 사용할지 선택하도록 할 수 있습니다.

設定 stream 수신하여 true SDK 구성에서. 응답은 청크 시리즈로 도착합니다. 애플리케이션 로직에서 각 청크를 적절히 처리하십시오. 이 방법은 긴 응답을 기다리는 사용자의 지각된 지연 시간을 줄입니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

JSON 모드 응답 처리

사용 response_format 설정 {"type": "json_object"} 구조화된 출력을 강제합니다. 이는 데이터 파싱이나 코드 생성에 유용합니다. 모델은 프롬프트에 제공된 JSON 스키마를 따릅니다. 출력이 유효하지 않으면 요청이 실패하거나 잘못된 JSON이 반환될 수 있습니다.

JSON 모드를 함수 호출과 결합하여 견고한 도구 통합을 구현하세요. 프롬프트에서 예상 구조를 명확히 정의하세요. 이는 사후 처리 오류의 필요성을 줄여줍니다. API는 JSON 구조 자체를 검증하지 않으므로 모델의 학습에 의존하세요.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

토큰 사용량 이해하기

가격은 입력 토큰 1M당 $0.15 및 출력 토큰 1M당 $0.50오류와 거부는 무료입니다. 크레딧은 성공적인 토큰 생성에만 청구됩니다. 선불 크레딧은 만료되지 않습니다. 이 모델은 합법적인 성인 사용에 대해 uncensored이므로 표준 주제에 대한 거부가 적습니다.

스트리밍 응답의 마지막 청크 또는 API 응답 헤더를 통해 사용량을 모니터링하세요. 서비스 중단을 피하기 위해 잔액을 추적하세요. 언제든지 암호화폐로 충전할 수 있습니다. 시스템은 요청당 비용을 투명하게 공개합니다. 숨겨진 요금이 없습니다.

제한 사항 및 오류

속도 제한은 분당 300개의 요청과 키당 8개의 동시 요청입니다. 요청 본문 크기 제한은 8MB입니다. 이러한 제한을 초과하면 429 오류가 발생합니다. 재시도를 처리하려면 지수 백오프를 사용하십시오. 각 계정에는 활성 키가 하나 있습니다. 새 키를 생성하면 이전 키가 즉시 대체됩니다.

오류를 우아하게 처리하세요. 401 오류는 키가 유효하지 않음을 의미합니다. 402 오류는 크레딧이 부족함을 나타냅니다. 429 오류는 속도 제한에 도달했음을 의미합니다. API는 SLA 또는 가동 시간 보장을 제공하지 않습니다. 이에 따라 재시도를 계획하세요.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)