Швидкий старт: API необмеженої LLM

Встановіть та налаштуйте SDK

Почніть із встановлення офіційного SDK від OpenAI для вашої мови. Наш API працює з будь-яким стандартним сумісним з OpenAI клієнтом, тому вам не потрібна спеціальна бібліотека. Встановіть ваш base_url до HTTPS://api.ollamaapipricing.com/v1 і надайте API-ключ з панелі вашого акаунту. Ідентифікатор моделі uncensored. Ця єдина модель обробляє всі ваші потреби в генерації тексту без логіки маршрутизації.

Аутентифікація вимагає дійсний ключ. Якщо ви бачите помилку 401, ваш ключ недійсний. Якщо ви бачите помилку 402, у вас немає кредиту. Поповніть рахунок за допомогою USDT або USDC, щоб продовжити. Базовий URL гарантує, що ваші запити надходять напряму на наші сервери.

Надішліть свій перший запит

Зробіть POST-запит до /v1/chat/completions з вашим промптом. Модель відповідає лише текстом. Ви можете контролювати довжину відповіді за допомогою max_tokens. Стандартний максимальний вихід — 2,048 токенів, якщо не вказано інше. Контекстне вікно підтримує до 100,000 токенів для запиту та завершення разом.

Використовуйте наведений нижче приклад для перевірки з’єднання та якості відповіді. Налаштуйте messages масив, щоб відповідати вашому випадку використання.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

Увімкнути потокову передачу та інструменти

Потокова передача повертає токени через Server-Sent Events (SSE). Останній чанк містить статистику використання токенів. Це дозволяє відображати відповіді в реальному часі, точно відстежуючи витрати. Підтримується виклик функцій. Ви можете визначити інструменти у своєму запиті та надати моделі вибір, який з них використати.

Встановити stream до true у конфігурації вашого SDK. Відповідь надійде у вигляді серії фрагментів. Обробляйте кожен фрагмент відповідним чином у логіці вашого додатка. Цей підхід зменшує сприйняту затримку для користувачів, які чекають довгих відповідей.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Обробка відповідей режиму JSON

Використовувати response_format встановлено на {"type": "json_object"} для примусового структурованого виводу. Це корисно для парсингу даних або генерації коду. Модель дотримується JSON-схеми, наданої в промпті. Якщо вивід недійсний, запит може завершитися помилкою або повернути невалідний JSON.

Поєднуйте режим JSON із викликом функцій для надійної інтеграції інструментів. Переконайтеся, що ваші промпти чітко визначають очікувану структуру. Це зменшує потребу в обробці помилок після генерації. API не валідує структуру JSON самостійно, тому покладайтеся на навчання моделі.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Розуміння використання токенів

Ціна є $0.15 за 1 млн вхідних токенів та $0.50 за 1 млн вихідних токенів. Помилки та відмови безкоштовні. Кредит стягується лише за успішну генерацію токенів. Попередньо оплачений кредит ніколи не згорає. Ця модель uncensored для законного використання дорослими, що означає менше відмов для стандартних тем.

Стежте за використанням через останній фрагмент SSE або заголовки відповіді API. Відстежуйте свій баланс, щоб уникнути переривання служби. Ви можете поповнити баланс у будь-який час за допомогою криптовалюти. Система прозоро повідомляє про витрати на кожен запит. Прихованих комісій немає.

Ліміти та помилки

Ліміти частоти запитів становлять 300 запитів на хвилину та 8 паралельних запитів на ключ. Ліміт розміру тіла запиту становить 8 МБ. Якщо ви перевищите ці ліміти, отримаєте помилку 429. Використовуйте експоненційне сповільнення для обробки повторних спроб. Кожен акаунт має один активний ключ. Генерація нового ключа миттєво замінює старий.

Коректно обробляйте помилки. Помилка 401 означає, що ключ недійсний. Помилка 402 вказує на недостатній баланс. Помилка 429 означає перевищення ліміту швидкості. API не надає SLA або гарантій доступності. Плануйте повторні спроби відповідним чином.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)