Panduan Cepat: API LLM Tanpa Sensor

Instal dan Konfigurasi SDK

Mulai dengan menginstal OpenAI SDK resmi untuk bahasa Anda. API kami bekerja dengan klien OpenAI-compatible standar apa pun, sehingga Anda tidak memerlukan pustaka kustom. Atur base_url ke HTTPS://api.ollamaapipricing.com/v1 dan berikan kunci API dari dasbor akun Anda. Pengenal model adalah uncensored. Model tunggal ini menangani semua kebutuhan generasi teks Anda tanpa logika pengalihan.

Autentikasi memerlukan kunci yang valid. Jika Anda melihat error 401, kunci Anda tidak valid. Jika Anda melihat error 402, Anda tidak memiliki kredit. Isi ulang dengan USDT atau USDC untuk melanjutkan. URL dasar memastikan permintaan Anda mencapai server kami secara langsung.

Kirim Permintaan Pertama Anda

Buat permintaan POST ke /v1/chat/completions dengan prompt Anda. Model merespons hanya dengan teks. Anda dapat mengontrol panjang respons menggunakan max_tokens. Output maksimum default adalah 2.048 token kecuali Anda menentukan lain. Jendela konteks mendukung hingga 100.000 token untuk prompt dan penyelesaian gabungan.

Gunakan contoh berikut untuk memverifikasi konektivitas dan kualitas respons. Sesuaikan messages array agar sesuai dengan kasus penggunaan Anda.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

Aktifkan Streaming dan Alat

Streaming mengembalikan token melalui Server-Sent Events (SSE). Chunk terakhir berisi statistik penggunaan token total. Ini memungkinkan Anda menampilkan respons secara real-time sambil melacak biaya secara akurat. Pemanggilan fungsi juga didukung. Anda dapat menentukan alat dalam permintaan Anda dan biarkan model memilih mana yang akan digunakan.

Atur stream ke true dalam konfigurasi SDK Anda. Respons akan tiba sebagai serangkaian potongan. Tangani setiap potongan secara tepat dalam logika aplikasi Anda. Pendekatan ini mengurangi latensi yang dirasakan bagi pengguna yang menunggu respons panjang.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tangani Respons Mode JSON

Gunakan response_format setel ke {"type": "json_object"} untuk memaksakan output terstruktur. Ini berguna untuk memproses data atau menghasilkan kode. Model mematuhi skema JSON yang disediakan dalam prompt. Jika output tidak valid, permintaan mungkin gagal atau mengembalikan JSON yang tidak valid.

Gabungkan mode JSON dengan pemanggilan fungsi untuk integrasi alat yang kuat. Pastikan prompt Anda mendefinisikan struktur yang diharapkan dengan jelas. Ini mengurangi kebutuhan akan kesalahan pasca-pemrosesan. API tidak memvalidasi struktur JSON itu sendiri, jadi andalkan pelatihan model.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Memahami Penggunaan Token

Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output. Kesalahan dan penolakan gratis. Kredit hanya dibebankan untuk generasi token yang berhasil. Kredit prabayar tidak pernah kedaluwarsa. Model ini uncensored untuk penggunaan dewasa hukum, artinya lebih sedikit penolakan untuk topik standar.

Pantau penggunaan Anda melalui potongan SSE akhir atau header respons API. Pantau saldo Anda untuk menghindari gangguan layanan. Anda dapat mengisi ulang kapan saja dengan kripto. Sistem transparan tentang biaya per permintaan. Tidak ada biaya tersembunyi yang berlaku.

Batas dan Error

Batas laju adalah 300 permintaan per menit dan 8 permintaan konkuren per kunci. Ukuran batas badan permintaan adalah 8 MB. Jika Anda melebihi batas-batas ini, Anda akan menerima error 429. Gunakan backoff eksponensial untuk menangani retry. Setiap akun memiliki satu kunci aktif. Membuat kunci baru menggantikan kunci lama segera.

Tangani kesalahan dengan baik. Kesalahan 401 berarti kunci tidak valid. Kesalahan 402 menunjukkan kredit tidak cukup. Kesalahan 429 berarti Anda dibatasi laju. API tidak menawarkan SLA atau jaminan uptime. Rencanakan coba ulang Anda sesuai.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)