Ongecensureerd LLM API voor SillyTavern: Installatiestappen

Wat je nodig hebt voordat je begint

Je hebt drie dingen nodig: een draaiende SillyTavern-installatie, een API-sleutel en de endpointgegevens. SillyTavern is een self-hosted chatfront-end voor karakter- en roleplaygesprekken, en het kan communiceren met elke service die het OpenAI-chatformaat volgt. Deze site biedt zo'n service voor wettelijk volwassen gebruik: fictie, roleplay en companion-apps voor volwassenen. Het genereert geen seksuele inhoud met minderjarigen, en dat verandert niet door instellingen.

Verzamel deze waarden:

• Basis-URL: https://api.ornith.top/v1
• Model ID: uncensored
• API-sleutel: aangemaakt op de API-sleutelpagina nadat je bent ingelogd met Google of met e-mail en wachtwoord.

Nieuwe accounts kunnen $0,50 aan proeftegoed claimen met één klik op die pagina. Er is geen creditcard nodig, het is één per persoon en het duurt 7 dagen. Dat is meer dan genoeg om een karakterkaart te testen, omdat een typische chatbeurt een fractie van een cent kost (de berekening staat hieronder).

Test de sleutel eerst met curl

Raak SillyTavern nog niet aan, maar stuur eerst een verzoek vanuit een terminal. Als het werkt, is een latere fout een front-end-instelling; als het faalt, is het probleem de sleutel of het netwerk.

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

Je zou JSON moeten krijgen met een choices-array. Kijk ook naar de response headers: X-Balance-USD toont je resterende tegoed, en X-Request-Id is wat je moet opgeven als je ooit support contacteert. Je kunt ook de modellen opvragen met GET /v1/models:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

De lijst toont het model ID dat je in SillyTavern moet gebruiken, namelijk uncensored.

Verbind SillyTavern stap voor stap

1. Open SillyTavern en klik op het plug-icoon bovenaan om API Connections te openen.
2. Kies in de API-dropdownmenu Chat Completion.
3. Kies in de Chat Completion Source-dropdownmenu Custom (OpenAI-compatible).
4. Voer in Custom Endpoint (Base URL) https://api.ornith.top/v1 in. Stop bij /v1. Voeg /chat/completions niet toe, omdat de client app deze pad zelf toevoegt.
5. Plak je sleutel in het veld Custom API Key.
6. Typ in Model ID uncensored.
7. Druk op Verbinden. Een groene status met de modelnaam betekent dat de handdruk werkte.

Menu-labels verschuiven iets tussen SillyTavern-releases, dus als een naam op jouw versie verschilt, zoek dan naar hetzelfde idee: een aangepaste OpenAI-compatible bron, een endpoint-veld, een sleutelveld en een modelveld. Als Connect faalt, herhaal dan de curl-test. Een authenticatiefout van curl betekent dat de sleutel fout is; een werkende curl met een falende Connect betekent meestal een typefout in de URL, zoals een ontbrekende /v1 of een achterliggend pad.

Als je verbonden bent, open dan een willekeurige karakterkaart en stuur een bericht. Als je een antwoord ziet, werkt de integratie. De rest is afstellen.

Instellingen die belangrijk zijn voor rollenspel

Contextvenstergrootte

Het model heeft een contextvenster van 100.000 tokens, tellend de prompt en het antwoord samen. In SillyTavern regelt de contextgrootte-slider hoeveel geschiedenis, karakterkaart en lorebook-tekst per beurt wordt verstuurd. Groter betekent dat het karakter zich meer herinnert en elke verzoek meer kost, omdat je per beurt betaalt voor input-tokens. Een goed startpunt is een gemiddelde waarde zoals 16.000 tot 32.000 tokens, alleen verhogen als je chats lang genoeg zijn om dat te nodig. De instelling voor responslengte komt overeen met max_tokens, wat optioneel is op deze API; stel een waarde in als je kortere antwoorden wilt.

Streaming

Zet streaming aan in de Chat Completion-instellingen. De API ondersteunt SSE met stream: true, dus tekst verschijnt terwijl deze wordt gegenereerd en je kunt een slecht antwoord vroegtijdig stoppen. Gebruik wordt gemeld aan het einde van de stream.

Sampling

Temperatuur, top_p, stop-reeksen, seed en de frequentie- en aanwezigheidsstraffen worden doorgegeven aan het model. Voor creatieve chats is een temperatuur rond 0,8 tot 1,0 met top_p rond 0,9 een veelgebruikt startpunt. Als antwoorden afdwalen of herhalen, verlaag dan de temperatuur iets en voeg een kleine frequentiestraff toe. Verander één instelling tegelijk, zodat je het effect kunt zien.

Je system prompt en kaart

Het model is afgestemd om te antwoorden zonder inhoudsbeperkingen, dus de kwaliteit van de scène hangt af van je prompt en karakterkaart. Een duidelijke rol, setting, toon en een paar voorbeeldregels dialogen doen meer dan elke sampling-aanpassing. Als je schrijft voor volwassenen, houd de setting dan expliciet over leeftijden: elk karakter moet een volwassene zijn.

Kosten per bericht, uitgerekend

Prijzen zijn $0,15 per 1M input-tokens en $0,50 per 1M output-tokens, van prepaid tegoed zonder abonnement. Omdat SillyTavern de kaart en geschiedenis per beurt opnieuw verstuurt, domineert input.

Stel dat een chatbeurt 6.000 tokens context verstuurt en 400 tokens terugkrijgt:

• Input: 6.000 bij $0,15 per 1M is $0,0009.
• Output: 400 bij $0,50 per 1M is $0,0002.
• Totaal: $0,0011 per beurt.

Een sessie van 200 beurten kost $0,22. Het proeftegoed van $0,50 dekt ongeveer 450 zulke beurten. Mislukte of geweigerde verzoeken worden niet in rekening gebracht. Wanneer je tegoed toevoegt, werkt elk bedrag van $20 tot $500, met +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200, per kaart (Visa, Mastercard, Apple Pay, Google Pay) of crypto (USDT op TRC20, USDC op Base). Credit verloopt nooit. De prijzenpagina heeft de details.

Veelvoorkomende fouten oplossen

Symptoom	Waarschijnlijke oorzaak	Oplossing
Verbinding faalt direct	Foute base URL of sleutel	Gebruik https://api.ornith.top/v1 zonder achterliggend pad; herhaal de curl-test
HTTP 429, code rate_limited	Te veel verzoeken per minuut	Vertraag; proefsleutels staan 60 per minuut toe, volledige sleutels 300
HTTP 429, code concurrency	Te veel verzoeken tegelijk	Wacht tot het lopende antwoord eindigt; proefsleutels staan 2 tegelijk toe, volledige sleutels 8
HTTP 429 met Retry-After: 5	Tijdelijke overbelasting	Probeer het opnieuw na 5 seconden
Verzoek te groot	Body groter dan 8 MB	Verlaag de contextgrootte of knip de lorebook
Context te lang	Prompt plus antwoord meer dan 100.000 tokens	Verlaag contextgrootte of responslengte

Eén detail verrast mensen in groepschats en met functies die extra achtergrondoproepen uitvoeren: een gestreamd verzoek houdt zijn concurrency-slot vast tot de stream eindigt. Als SillyTavern een antwoord, een samenvatting en een image-caption-taak tegelijk start, zal een proefsleutel met 2 slots het derde verzoek afwijzen. Een volledige sleutel staat 8 toe. Schakel de extra's uit die je niet nodig hebt, of sprei ze uit.

Voor alle parameters en de exacte foutvormen, lees de API-documentatie.

Meer handleidingen

• Uncensored LLM: Wat het betekent en hoe je er een gebruikt
• Beste Ongecensureerd LLM om Lokaal te Draaien Met Ollama
• Open Source LLM API Guide: Setup, Kosten en Alternatieven