Pika-aloitus: Uncensored LLM API

Asenna ja määritä SDK

Aloita asentamalla virallinen OpenAI SDK kielellesi. APIomme toimii minkä tahansa vakiokäyttöliittymän kanssa, joten et tarvitse mukautettua kirjastoa. Aseta base_url vastaan HTTPS://api.ollamaapipricing.com/v1 and provide the API key from your account dashboard. The model identifier is uncensored. Tämä yksittäinen malli käsittelee kaikki tekstigenerointitarpeesi ilman reitityslogiikkaa.

Todennus vaatii voimassa olevan avaimen. Jos näet 401-virheen, avaimesi on virheellinen. Jos näet 402-virheen, sinulla ei ole saldoa. Täydennä saldoa USDT:llä tai USDC:llä jatkaaksesi. Base URL varmistaa, että pyyntösi saapuvat palvelimillemme suoraan.

Lähetä ensimmäinen pyyntösi

Tee POST-pyyntö osoitteeseen /v1/chat/completions syötteelläsi. Malli vastaa vain tekstillä. Voit hallita vastauksen pituutta käyttämällä max_tokens. Vakio maksimilähtö on 2 048 tokenia, ellei toisin määrätä. Kontekstityöpöytä tukee yhteensä enintään 100 000 tokenia syötteelle ja täydennykselle.

Käytä seuraavaa esimerkkiä varmistaaksesi yhteyden ja vastauksen laadun. Säädä messages tietorakenteella, joka sopii käyttötapaukseesi.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

Ota käyttöön suoratoisto ja työkalut

Streaming palauttaa tokenit Server-Sent Events (SSE) -tekniikan kautta. Viimeinen palautus sisältää kokonaisten tokenien käytön tilastot. Tämä mahdollistaa vastausten näyttämisen reaaliajassa kustannusten tarkan seurannan säilyttäessä. Toimintojen kutsu (function calling) on myös tuettu. Voit määritellä työkalut pyynnössäsi ja antaa mallin päättää, mitä niitä käytetään.

Aseta stream vastaan true SDK-määrityksissäsi. Vastaus saapuu sarjana palloja. Käsittele jokaista palloa asianmukaisesti sovelluksesi logiikassa. Tämä lähestymistapa vähentää havaittua viivettä käyttäjien odottaessa pitkiä vastauksia.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Käsittele JSON-tilan vastaukset

Käyttö response_format asetettuna {"type": "json_object"} pakottaa rakenteellisen outputin. Tämä on hyödyllistä datan jäsentämiseen tai koodin generointiin. Malli noudattaa promptissa annettua JSON-skeemaa. Jos output on virheellinen, pyyntö voi epäonnistua tai palauttaa virheellisen JSON:n.

Yhdistä JSON-tila funktiokutsuihin vahvaan työkaluintegraatioon. Varmista, että promptisi määrittelevät selkeästi odotetun rakenteen. Tämä vähentää jälkikäsittelyvirheiden tarvetta. API ei vahvista JSON-rakennetta itse, joten luota mallin koulutukseen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ymmärrä tokennien käyttö

Hinnoittelu on $0,15 / 1M syöttötokenia ja $0,50 / 1M tulostustokenia. Virheet ja hylkäykset ovat ilmaisia. Krediittiä veloitetaan vain onnistuneesta token-generoinnista. Ennakkomaksukrediitti ei vanhene. Tämä malli on uncensored lailliseen aikuis käyttöön, mikä tarkoittaa vähemmän hylkäyksiä yleisiin aiheisiin.

Seuraa käyttöä viimeisen SSE-osan tai API-vastausotsikoiden kautta. Pidä saldoasi mielessä välttääksesi palvelukatkoksen. Voit lisätä saldoa milloin tahansa kryptomaksuilla. Järjestelmä on läpinäkyvä kustannusten osalta pyyntöä kohden. Ei piilokuluja.

Rajoitukset ja virheet

Nopeusrajoitukset ovat 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä avainta kohden. Pyyntöruumiin kokoraja on 8 MB. Jos ylität nämä rajat, saat 429-virheen. Käytä eksponentiaalista viivettä uudelleenyrittämiseen. Jokaisella tilillä on yksi aktiivinen avain. Uuden avaimen luominen korvaa vanhan avaimen välittömästi.

Käsittele virheet joustavasti. 401-virhe tarkoittaa, että avain on virheellinen. 402-virhe tarkoittaa riittämätöntä krediittiä. 429-virhe tarkoittaa, että nopeusrajoitus on ylitetty. API ei tarjoa SLA-takuuja tai katkosvapaiden aikojen takuita. Suunnittele uudelleenyrittämiset sen mukaisesti.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)