Pengenalan: API LLM Tanpa Sensor

Pasang dan Konfigurasi SDK

Mula dengan memasang SDK OpenAI rasmi untuk bahasa anda. API kami berfungsi dengan mana-mana klien serasi OpenAI piawai, jadi anda tidak memerlukan perpustakaan tersuai. Tetapkan base_url ke HTTPS://api.ollamaapipricing.com/v1 dan berikan kunci API dari papan pemuka akaun anda. Pengenal pasti model adalah uncensored. Model tunggal ini mengendalikan semua keperluan penjanaan teks anda tanpa logik pengaliran.

Pengesahihan memerlukan kunci yang sah. Jika anda melihat ralat 401, kunci anda tidak sah. Jika anda melihat ralat 402, anda tidak mempunyai kredit. Tambah baki dengan USDT atau USDC untuk meneruskan. URL asas memastikan permintaan anda mencapai pelayan kami secara langsung.

Hantar Permintaan Pertama Anda

Buat permintaan POST ke /v1/chat/completions dengan prompt anda. Model menanggapi dengan teks sahaja. Anda boleh mengawal panjang respons menggunakan max_tokens. Output maksimum lalai ialah 2,048 token kecuali anda menentukan sebaliknya. Tetingkap konteks menyokong sehingga 100,000 token untuk prompt dan penyelesaian gabungan.

Gunakan contoh berikut untuk mengesahkan sambungan dan kualiti respons. Laraskan messages array to fit your use case.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

Aktifkan Aliran dan Alat

Streaming memulangkan token melalui Server-Sent Events (SSE). Chunk terakhir mengandungi statistik penggunaan token keseluruhan. Ini membolehkan anda memaparkan respons secara masa nyata sambil mengesan kos dengan tepat. Panggilan fungsi juga disokong. Anda boleh menentukan alat dalam permintaan anda dan membiarkan model memilih mana yang perlu digunakan.

Tetapkan stream ke true dalam konfigurasi SDK anda. Respons akan tiba sebagai siri blok. Tangani setiap blok dengan sesuai dalam logik aplikasi anda. Pendekatan ini mengurangkan latensi yang dirasakan untuk pengguna yang menunggu respons panjang.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tangani Respons Mod JSON

Gunakan response_format tetapkan kepada {"type": "json_object"} untuk memaksakan output terstruktur. Ini berguna untuk menguraikan data atau menjana kod. Model mematuhi skema JSON yang disediakan dalam prompt. Jika output tidak sah, permintaan mungkin gagal atau mengembalikan JSON rosak.

Gabungkan mod JSON dengan panggilan fungsi untuk integrasi alat yang kukuh. Pastikan prompt anda mentakrifkan struktur yang dijangka dengan jelas. Ini mengurangkan keperluan untuk ralat pasca-pemprosesan. API tidak mengesahkan struktur JSON sendiri, jadi bergantung pada latihan model.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Memahami Penggunaan Token

Harga adalah $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token outputRalat dan penolakan adalah percuma. Kredit hanya dikenakan untuk penjanaan token berjaya. Kredit pra-dibayar tidak luput. Model ini tanpa sensor untuk penggunaan dewasa yang sah, bermakna kurang penolakan untuk topik standard.

Pantau penggunaan anda melalui bahagian SSE akhir atau header respons API. Kekalkan jejak baki anda untuk mengelakkan gangguan perkhidmatan. Anda boleh menambah nilai pada bila-bila masa dengan kripto. Sistem adalah telus mengenai kos setiap permintaan. Tiada yuran tersembunyi terpakai.

Had dan Ralat

Rate limits are 300 requests per minute and 8 concurrent requests per key. The request body size limit is 8 MB. If you exceed these limits, you will receive a 429 error. Use exponential backoff to handle retries. Each account has one active key. Generating a new key replaces the old one immediately.

Tangani ralat dengan anggun. Ralat 401 bermaksud kunci tidak sah. Ralat 402 menunjukkan kredit tidak mencukupi. Ralat 429 bermaksud anda dihadkan kadar. API tidak menawarkan SLA atau jaminan masa lapang. Rancang cubaan semula anda dengan sewajarnya.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)