Szybki start: API LLM bez cenzury

Zainstaluj i skonfiguruj SDK

Zacznij od zainstalowania oficjalnego pakietu OpenAI SDK dla Twojego języka. Nasze API działa z dowolnym standardowym klientem zgodnym z OpenAI, więc nie potrzebujesz biblioteki niestandardowej. Ustaw swój base_url do HTTPS://api.ollamaapipricing.com/v1 i podaj klucz API ze swojego panelu konta. Identyfikator modelu to uncensored. Ten pojedynczy model obsługuje wszystkie Twoje potrzeby generowania tekstu bez logiki routingu.

Uwierzytelnianie wymaga ważnego klucza. Jeśli widzisz błąd 401, Twój klucz jest nieprawidłowy. Jeśli widzisz błąd 402, nie masz środków. Doładuj saldo za pomocą USDT lub USDC, aby kontynuować. Bazowy adres URL zapewnia, że Twoje żądania trafiają bezpośrednio na nasze serwery.

Wyślij swoje pierwsze żądanie

Wykonaj żądanie POST do /v1/chat/completions z Twoim promptem. Model odpowiada tylko tekstem. Możesz kontrolować długość odpowiedzi za pomocą max_tokens. Domyślny limit wyjściowy to 2,048 tokenów, chyba że określisz inaczej. Okno kontekstowe obsługu do 100,000 tokenów łącznie dla promptu i uzupełnienia.

Użyj poniższego przykładu, aby zweryfikować łączność i jakość odpowiedzi. Dostosuj messages tablicę, aby pasowała do Twojego przypadku użycia.

Copycurl https://api.ollamaapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "calculate total cost for 100m tokens"}]
  }'

Włącz Strumieniowanie i Narzędzia

Strumieniowanie zwraca tokeny za pośrednictwem zdarzeń wysyłanych przez serwer (SSE). Ostatni fragment zawiera statystyki całkowitego zużycia tokenów. Pozwala to na wyświetlanie odpowiedzi w czasie rzeczywistym przy jednoczesnym dokładnym śledzeniu kosztów. Obsługiwane jest również wywoływanie funkcji. Możesz zdefiniować narzędzia w żądaniu i pozwolić modelowi wybrać, którego z nich użyć.

Ustaw stream do true w konfiguracji SDK. Odpowiedź przybędzie jako seria kawałków. Obsłuż każdy kawałek odpowiednio w logice swojej aplikacji. To podejście redukuje postrzeganą latencję dla użytkowników oczekujących na długie odpowiedzi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Obsługa odpowiedzi w trybie JSON

Użyj response_format ustawione na {"type": "json_object"} do wymuszenia wyjścia strukturalnego. Jest to przydatne do parsowania danych lub generowania kodu. Model podporządkowuje się dostarczonemu w prompcie schematowi JSON. Jeśli wyjście jest nieprawidłowe, żądanie może się nie powieść lub zwrócić niepoprawny JSON.

Połącz tryb JSON z wywoływaniem funkcji dla solidnej integracji narzędzi. Upewnij się, że prompty jasno definiują oczekiwaną strukturę. Zmniejsza to potrzebę korekty błędów po przetworzeniu. API nie waliduje samej struktury JSON, więc polegaj na treningu modelu.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Zrozum zużycie tokenów

Cena to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Błędy i odrzucenia są darmowe. Kredyt jest naliczany tylko za udane generowanie tokenów. Prekarny kredyt nie wygasa. Ten model jest bez cenzury dla użytku dorosłego, co oznacza mniej odrzuceń dla standardowych tematów.

Monitoruj swoje zużycie poprzez ostatni fragment SSE lub nagłówki odpowiedzi API. Śledź swój balans, aby uniknąć przerw w usłudze. Możesz doładować w dowolnym momencie za pomocą kryptowalut. System jest przejrzysty pod względem kosztów na żądanie. Nie ma ukrytych opłat.

Limity i błędy

Limity szybkości wynoszą 300 żądań na minutę i 8 jednoczesnych żądań na klucz. Limit rozmiaru ciała żądania wynosi 8 MB. Jeśli przekroczysz te limity, otrzymasz błąd 429. Używaj wykładniczego opóźnienia do obsługi ponownych prób. Każde konto ma jeden aktywny klucz. Wygenerowanie nowego klucza natychmiast zastępuje stary.

Obsługuj błędy w sposób elegancki. Błąd 401 oznacza, że klucz jest nieprawidłowy. Błąd 402 oznacza niewystarczający kredyt. Błąd 429 oznacza, że jesteś ograniczony szybkościowo. API nie oferuje SLA ani gwarancji czasu pracy. Zaplanuj swoje ponawiania odpowiednio.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)