Gyors bevezetés: Uncensored LLM API

SDK telepítése és konfigurálása

Kezdje a hivatalos OpenAI SDK telepítésével a nyelvéhez. Az API-nk bármely szabványos OpenAI-kompatibilis klienssel működik, így nem kell egyedi könyvtárat használnia. Állítsa be a base_url a HTTPS://api.ollamaapipricing.com/v1 és adj meg egy API-kulcsot a fiókkezelőfelületről. A modell azonosítója uncensored. Ez az egyetlen modell kezeli az összes szöveggenerálási igényét útválasztási logika nélkül.

A hitelesítés érvényes kulcsot igényel. Ha 401-es hibát lát, a kulcs érvénytelen. Ha 402-es hibát lát, nincs hitellel. Töltse fel USDT-vel vagy USDC-vel a folytatáshoz. Az alap URL biztosítja, hogy a kérései közvetlenül a szervereinkhez érjenek.

Küldje el az első kérést

POST kérés készítése ide: /v1/chat/completions a prompttal. A modell csak szöveggel válaszol. A válasz hosszát a(z) segítségével szabályozhatja max_tokens. Az alapértelmezett maximális kimenet 2 048 token, hacsak mást nem adsz meg. A kontextusablak összesen 100 000 token támogatását biztosítja a prompt és a kiegészítés számára.

Használja az alábbi példát a kapcsolódás és a válaszminőség ellenőrzésére. Állítsa be a messages tömb, hogy illeszkedjen a felhasználási esethez.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

Streamelés és eszközök engedélyezése

A stream tokenokat ad vissza Server-Sent Events (SSE) segítségével. A végleges darab tartalmazza a teljes tokenfelhasználási statisztikát. Ez lehetővé teszi a válaszok valós idejű megjelenítését a költségek pontos nyomon követése mellett. A funkcióhívás is támogatott. Eszközöket definiálhat a kérésben, és hagyhatja, hogy a modell válasszon.

Beállítás stream a true az SDK konfigurációdra. A válasz darabokban érkezik. Kezeld megfelelően minden darabot az alkalmazásod logikájában. Ez a megközelítés csökkenti a hosszú válaszokra váró felhasználók észlelt késleltetését.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kezelje a JSON mód válaszait

Használat response_format beállítva {"type": "json_object"} a strukturált kimenet kikényszerítésére. Ez hasznos az adatok feldolgozásához vagy kód generálásához. A modell betartja a promptban megadott JSON sémát. Ha a kimenet érvénytelen, a kérés sikertelen lehet, vagy hibás JSON-t adhat vissza.

Kombinálja a JSON módot a function callinggal a robusztus eszközigyűjtéshez. Győződjön meg róla, hogy a promptok egyértelműen meghatározzák a várt struktúrát. Ez csökkenti az utólagos feldolgozási hibák szükségességét. Az API nem érvényesíti a JSON struktúrát, ezért a modell tanulására hagyatkozzon.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Értsd meg a tokenfelhasználást

Az árazás $0,15 / 1M bemeneti token és $0,50 / 1M kimeneti token. A hibák és az utasítások ingyenesek. A hitelt csak a sikeres token generálás után számítják fel. Az előre fizetett hitel sosem jár le. Ez a modell uncensored a törvényes felnőtt használat számára, ami kevesebb utasítást jelent a szabványos témák esetén.

Kövesse a felhasználást a végleges SSE chunk vagy az API válaszfejlékek alapján. Kövesse nyomon a egyenlegét a szolgáltatás megszakításának elkerülése érdekében. Bármikor tölthet fel kriptovalutával. A rendszer átlátható a kérésenkénti költségeket illetően. Nincsenek rejtett díjak.

Limiterek és hibák

A sebességkorlátok percenként 300 kérés és kulcsonként 8 párhuzamos kérés. A kérelemtörzs méretének korlátja 8 MB. Ha túlléped ezeket a korlátokat, 429-es hibát kapsz. Használj exponenciális backoff-ot a retryk kezeléséhez. Minden fióknak egy aktív kulcsa van. Egy új kulcs generálása azonnal lecseréli a régit.

Kezeld gracefully a hibákat. A 401-es hiba azt jelenti, hogy a kulcs érvénytelen. A 402-es hiba elégtelen hitelt jelez. A 429-es hiba azt jelenti, hogy sebességkorlátozás alatt állsz. Az API nem kínál SLA-kat vagy üzemidő-garanciákat. Tervezd meg az újrapróbálásokat ennek megfelelően.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)