API LLM bez cenzury dla SillyTavern: Kroki konfiguracji

Czego potrzebujesz przed rozpoczęciem

Potrzebujesz trzech rzeczy: zainstalowanego SillyTavern, klucza API oraz szczegółów endpointu. SillyTavern to samodzielnie hostowany interfejs czatu do konwersacji z postaciami i odgrywania ról, a może łączyć się z każdą usługą obsługującą format czatu OpenAI. Ta strona zapewnia taką usługę do prawnego użytku dorosłych: fikcję, odgrywanie ról i aplikacje towarzyskie dla dorosłych. Nie wygeneruje treści seksualnych z udziałem nieletnich, a żadna zmiana ustawień tego nie zmieni.

Zbierz te wartości:

• Adres URL bazowy: https://api.ornith.top/v1
• Identyfikator modelu: uncensored
• Klucz API: utworzony na stronie klucza API po zalogowaniu się przez Google lub e-mail i hasło.

Nowe konta mogą odebrać $0.50 kredytu próbnego jednym kliknięciem na tej stronie. Nie wymaga karty, jest przydzielany raz na osobę i ważny przez 7 dni. To wystarczy na przetestowanie karty postaci, ponieważ typowa tura czatu kosztuje ułamek centa (obliczenia znajdziesz niżej).

Przetestuj klucz najpierw za pomocą curl

Przed zmianą ustawień w SillyTavern wyślij jedno zapytanie z terminala. Jeśli zadziała, każdy późniejszy błąd wynika z ustawień interfejsu; jeśli nie, problem dotyczy klucza lub sieci.

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

Powinieneś otrzymać JSON z tablicą choices. Sprawdź też nagłówki odpowiedzi: X-Balance-USD pokazuje pozostały kredyt, a X-Request-Id to wartość, którą należy podać w przypadku kontaktu z supportem. Możesz też wylistować modele za pomocą GET /v1/models:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

Lista pokazuje ID modelu do użycia w SillyTavern, którym jest uncensored.

Połącz SillyTavern krok po kroku

1. Otwórz SillyTavern i kliknij ikonę wtyczki u góry, aby otworzyć Połączenia API.
2. W menu rozwijanym API wybierz Chat Completion.
3. W menu rozwijanym Chat Completion Source wybierz Custom (OpenAI-compatible).
4. W polu Custom Endpoint (Base URL) wpisz https://api.ornith.top/v1. Zatrzymaj się na /v1. Nie dodawaj /chat/completions, ponieważ klient dodaje tę ścieżkę samodzielnie.
5. Wklej swój klucz do pola Custom API Key.
6. W polu Model ID wpisz uncensored.
7. Naciśnij Connect. Zielony status z nazwą modelu oznacza, że nawiązanie połączenia powiodło się.

Etykiety menu zmieniają się nieco między wydania SillyTavern, więc jeśli nazwa różni się w Twojej wersji, szukaj tego samego pojęcia: źródła kompatybilnego z OpenAI, pola endpoint, pola klucza i pola modelu. Jeśli Połączenie się nie powiedzie, powtórz test curl. Błąd uwierzytelnienia z curl oznacza, że klucz jest nieprawidłowy; działający curl z nieudanym Połączeniem zwykle oznacza literówkę w URL, np. brak /v1 lub ścieżkę końcową.

Po połączeniu otwórz dowolną kartę postaci i wyślij wiadomość. Jeśli zobaczysz odpowiedź, integracja działa. Reszta to dostrajanie.

Ustawienia istotne dla roleplay

Rozmiar kontekstu

Model ma okno kontekstu 100 000 tokenów, licząc razem prompt i odpowiedź. W SillyTavern suwak rozmiaru okna kontekstu kontroluje, ile historii, karty postaci i tekstu z lorebooka jest wysyłane w każdej turze. Większa wartość oznacza, że postać zapamiętuje więcej, a każde zapytanie kosztuje więcej, ponieważ płacisz za tokeny wejściowe w każdej turze. Dobre punkty wyjścia to umiarkowana wartość 16 000 do 32 000 tokenów, zwiększana tylko wtedy, gdy Twoje rozmowy są na tyle długie, że tego wymagają. Ustawienie długości odpowiedzi odpowiada max_tokens, które jest opcjonalne w tym API; ustaw wartość, jeśli chcesz krótszych odpowiedzi.

Strumieniowanie

Włącz strumieniowanie w ustawieniach Chat Completion. API obsługuje SSE z stream: true, więc tekst pojawia się w miarę generowania, a możesz przerwać złą odpowiedź wcześniej. Użycie jest raportowane na końcu strumienia.

Próbkowanie

Temperatura, top_p, sekwencje stop, seed oraz kary częstotliwości i obecności są przekazywane do modelu. Dla kreatywnego czatu temperatura około 0,8 do 1,0 z top_p bliskim 0,9 jest powszechnym punktem wyjścia. Jeśli odpowiedzi są rozległe lub powtarzalne, zmniejsz nieco temperaturę i dodaj małą karę częstotliwości. Zmieniaj jedno ustawienie na raz, aby zobaczyć jego wpływ.

Twój system prompt i karta postaci

Model jest dostrojony do odpowiadania bez odrzucania treści, więc jakość sceny zależy od Twojego promptu i karty postaci. Jasna rola, ustawienie, ton i kilka przykładowych linii dialogowych robią więcej niż jakiekolwiek dostosowanie próbkowania. Jeśli piszesz dla dorosłych, upewnij się, że ustawienie wyraźnie określa wiek: każda postać powinna być dorosła.

Koszt na wiadomość, obliczony

Ceny wynoszą $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych, z przedpłaconego kredytu bez subskrypcji. Ponieważ SillyTavern wysyła kartę i historię w każdej turze, dominują tokeny wejściowe.

Załóżmy, że tura czatu wysyła 6000 tokenów kontekstu i otrzymuje 400 tokenów odpowiedzi:

• Wejście: 6000 przy $0,15 za 1M to $0,0009.
• Wyjście: 400 przy $0,50 za 1M to $0,0002.
• Razem: $0,0011 za turę.

Sesja na 200 tur kosztuje $0.22. Kredyt próbny $0.50 wystarcza na około 450 takich tur. Nieudane lub odrzucone zapytania nie są rozliczane. Doładowując kredyt, możesz wpłacić dowolną kwotę od $20 do $500, z bonusem +5% przy $50, +10% przy $100 i +15% przy $200, kartą (Visa, Mastercard, Apple Pay, Google Pay) lub kryptowalutami (USDT w sieci TRC20, USDC na Base). Kredyt nie wygasa. Szczegóły znajdziesz na stronie z cenami.

Naprawianie typowych błędów

Objaw	Prawdopodobna przyczyna	Naprawa
Połączenie nie udaje się od razu	Nieprawidłowy adres URL endpointu lub klucz	Użyj https://api.ornith.top/v1 bez ścieżki końcowej; powtórz test curl
HTTP 429, kod rate_limited	Zbyt wiele zapytań na minutę	Zwolnij; klucze próbne pozwalają na 60 zapytań na minutę, pełne klucze na 300
HTTP 429, kod concurrency	Zbyt wiele zapytań naraz	Poczekaj, aż bieżąca odpowiedź się zakończy; klucze próbne pozwalają na 2 naraz, pełne klucze na 8
HTTP 429 z Retry-After: 5	Tymczasowe przeciążenie	Ponów próbę po 5 sekundach
Zapytanie zbyt duże	Treść przekracza 8 MB	Zmniejsz rozmiar kontekstu lub skróć lorebook
Zbyt długie okno kontekstu	Prompt plus odpowiedź ponad 100 000 tokenów	Zmniejsz rozmiar okna kontekstu lub długość odpowiedzi

Jedna rzecz, która myli użytkowników w czatach grupowych i przy funkcjach wykonujących dodatkowe wywołania w tle: strumieniowane zapytanie trzyma swój slot współbieżności do końca strumienia. Jeśli SillyTavern wyśle odpowiedź, podsumowanie i zadanie opisu obrazu jednocześnie, klucz próbny z 2 slotami odrzuci trzecie. Pełny klucz pozwala na 8. Wyłącz niepotrzebne dodatki lub rozłóż je w czasie.

Dla wszystkich parametrów i dokładnych struktur błędów przeczytaj dokumentację API.

Więcej przewodników

• LLM bez cenzury: Co to znaczy i jak go używać
• Najlepszy LLM bez cenzury do uruchomienia lokalnie z Ollama
• Przewodnik po API LLM Open Source: Konfiguracja, Koszty i Alternatywy