התחלה מהירה: API של LLM ללא צנזורה

התקן וConfigure את ה-SDK

התחל בהתקנת ה-OpenAI SDK הרשמי לשפת התכנות שלך. ה-API שלנו עובב עם כל לקוח סטנדרטי התואם ל-OpenAI, כך שאין צורך בספרייה מותאמת אישית. הגדר את base_url אל HTTPS://api.ollamaapipricing.com/v1 והספק את מפתח ה-API מלוח החשבון שלך. מזהה המודל הוא uncensored. מודל יחיד זה מטפל בכל צרכי יצירת הטקסט שלך ללא לוגיקת ניהול.

האימות דורש מפתח תקף. אם אתם רואים שגיאת 401, המפתח שלכם לא חוקי. אם אתם רואים שגיאת 402, אין לכם אשראי. טענו מחדש עם USDT או USDC כדי להמשיך. כתובת ה-Base URL מבטיחה שהבקשות שלכם יגיעו לשרתים שלנו ישירות.

שלח את הבקשה הראשונה שלך

בצעו בקשת POST ל- /v1/chat/completions עם ההנחיה שלך. הדגם מגיב עם טקסט בלבד. ניתן לשלוט באורך התגובה באמצעות max_tokens. הפלט המקסימלי הסטנדרטי הוא 2,048 טוקנים אלא אם כן תציין אחרת. חלון ההקשר תומך עד 100,000 טוקנים עבור קלט והשלמה משולבים.

השתמשו בדוגמה הבאה כדי לאמת חיבור ואיכות תגובה. התאימו את messages מערך כדי להתאים למקרה השימוש שלך.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

אפשרו זרימה וכלים

סטרימינג מחזיר טוקנים באמצעות אירועים שנשלחים מהשרת (SSE). החלק הסופי מכיל סטטיסטיקות שימוש כוללות בטוקנים. זה מאפשר להציג תגובות בזמן אמת תוך מעקב מדויק אחר העלויות. קריאה לפונקציות נתמכת גם כן. ניתן להגדיר כלים בבקשה שלך ולהשאיר למודל לבחור אילו מהם להשתמש.

הגדר stream אל true בתצורת ה-SDK שלך. התגובה תגיע כרצף של נתונים. טפל בכל נתון בצורה מתאימה בלוגיקה של היישום שלך. גישה זו מפחיתה את תחוית העיכוב עבור משתממים הממתינים לתגובות ארוכות.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

טפול בתגובות מצב JSON

שימוש response_format מוגדר ל {"type": "json_object"} כדי לאכוף פלט מבני. זה שימושי לניתוח נתונים או ליצירת קוד. המודל נאבק לסכמת JSON שסופקה בפרומפט. אם הפלט לא תקף, הבקשה עשויה להיכשל או להחזיר JSON מעוות.

שלבו מצב JSON עם קריאת פונקציות לשילובים חזקים של כלים. ודאו שהפרומפטים מגדירים בבירור את המבנה הצפוי. זה מפחית את הצורך בתיקון שגיאות לאחר עיבוד. ה-API לא מאמת את מבנה ה-JSON עצמו, אז הסתמכו על האימון של המודל.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

הבנת שימוש בטוקנים

תמחור הוא $0.15 לכל מיליון אסימוני קלט וגם $0.50 לכל מיליון אסימוני פלט. שגיאות ודחיות הן בחינם. האשראי נגבה רק על יצירת טוקנים מוצלחת. אשראי מקדים לא פג תוקף. מודל זה הוא ללא צנזורה לשימוש מבוגר חוקי, כלומר פחות דחיות לנושאים סטנדרטיים.

עקבו אחר השימוש דרך פיסת ה-SSE הסופית או כותרות תגובת ה-API. עקבו אחר יתרת החשבון שלכם כדי להימנע מהפרעות בשירות. ניתן להוסיף קרדיט בכל עת באמצעות קריפטו. המערכת שקופה לגבי עלויות לכל בקשה. אין עמלות נסתרות.

מגבלות ושגיאות

מגבלות הקצב הן 300 בקשות לדקה ו-8 בקשות מקבילות לכל מפתח. מגבלת גודל גוף הבקשה היא 8 MB. אם תחצה מגבלות אלו, תקבל שגיאה 429. השתמש בגידול מעריכי לטיפול בניסיונות חוזרים. לחשבון יש מפתח פעיל אחד. יצירת מפתח חדש מחליפה את הישן מיד.

טפלו בשגיאות בצורה חכמה. שגיאת 401 אומרת שהמפתח לא חוקי. שגיאת 402 מציינת חוסר בזכות. שגיאת 429 אומרת שאתה מוגבל בקצב. ה-API לא מציע SLAs או הבטחות זמינות. תכנן את ניסיונות החוזר שלך בהתאם.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)