SillyTavern için Sansürsüz LLM API'si: Kurulum Adımları

Başlamadan önce ihtiyacınız olanlar

Üç şeye ihtiyacınız var: çalışan bir SillyTavern kurulumu, bir API anahtarı ve uç nokta detayları. SillyTavern, karakter ve rol yapma sohbetleri için kendi kendine barındırılan bir sohbet ön yüzüdür ve OpenAI sohbet formatını takip eden herhangi bir hizmetle iletişim kurabilir. Bu site, yasal yetişkin kullanımı için böyle bir hizmet sağlar: kurgu, rol yapma ve yetişkinler için arkadaş uygulamaları. Reşit olmayanlar içeren cinsel içerik üretmez ve bunu değiştiren bir ayar da yoktur.

Bu değerleri toplayın:

• Temel URL: https://api.ornith.top/v1
• Model Kimliği: uncensored
• API anahtarı: Google veya e-posta ve şifre ile giriş yaptıktan sonra API anahtarı sayfasında oluşturulur.

Yeni hesaplar, o sayfada tek tıkla $0.50 deneme kredisi talep edebilir. Kart gerekmez, kişi başı bir tanedir ve 7 gün sürer. Bu, bir karakter kartını test etmek için fazlasıyla yeterlidir, çünkü tipik bir sohbet dönüşü bir kuruşun çok küçük bir kısmına mal olur (hesaplamalar aşağıdadır).

Anahtarı önce curl ile test edin

SillyTavern'e dokunmadan önce, bir terminalden bir istek gönderin. Çalışırsa, sonraki herhangi bir hata bir ön yüz ayarıdır; çalışmazsa sorun anahtar veya ağdadır.

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

Bir choices dizisi içeren JSON almalısınız. Yanıt başlıklarına da bakın: X-Balance-USD kalan kredinizi gösterir ve X-Request-Id destekle iletişime geçtiğinizde alıntılamanız gereken şeydir. Modelleri GET /v1/models ile de listeleyebilirsiniz:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

Liste, SillyTavern'de kullanılacak model ID'sini gösterir ki bu da uncensored'dir.

SillyTavern'i adım adım bağlayın

1. SillyTavern'i açın ve API Bağlantıları'ı açmak için üstteki eklenti simgesine tıklayın.
2. API açılır menüsünde Chat Completion'ı seçin.
3. Chat Completion Source açılır menüsünde Custom (OpenAI uyumlu)'ı seçin.
4. Özel Uç Nokta (Temel URL) alanında https://api.ornith.top/v1 girin. /v1'de durun. İstemci bu yolu kendisi eklediği için /chat/completions eklemeyin.
5. Anahtarınızı Custom API Key alanına yapıştırın.
6. Model ID alanında uncensored yazın.
7. Bağlan düğmesine basın. Model adıyla yeşil durum, el sıkışmasının başarılı olduğunu gösterir.

Menü etiketleri SillyTavern sürümleri arasında biraz değişebilir, bu nedenle sürümünüzdeki bir ad farklıysa aynı kavramı arayın: özel bir OpenAI uyumlu kaynak, bir uç nokta alanı, bir anahtar alanı ve bir model alanı. Bağlanma başarısız olursa curl testini tekrarlayın. curl'dan gelen bir kimlik doğrulama hatası anahtarın yanlış olduğunu gösterir; çalışan bir curl ile başarısız olan bir Bağlanma işlemi genellikle URL'deki bir yazım hatasını (örneğin eksik /v1 veya son ek bir yol) gösterir.

Bağlandıktan sonra herhangi bir karakter kartı açın ve mesaj gönderin. Bir yanıt görürseniz entegrasyon çalışıyor demektir. Gerisi ince ayadır.

Rol yapma için önemli ayarlar

Bağlam boyutu

Modelin, istem ve yanıt birlikte sayıldığında 100.000 tokenlık bir bağlam penceresi vardır. SillyTavern'de bağlam boyutu kaydırıcısı, her dönüşte gönderilen geçmiş, karakter kartı ve lorebook metninin ne kadarını kontrol eder. Daha büyük bir değer karakterin daha fazlasını hatırlamasını sağlar ve her istek daha pahalıya mal olur, çünkü her dönüşte girdi tokenları için ödeme yaparsınız. İyi bir başlangıç noktası, sohbetleriniz bunu gerektirdiğinde artırılacak olan 16.000 ile 32.000 token gibi orta bir değerdir. Yanıt uzunluğu ayarı max_tokens'e karşılık gelir ki bu API'de isteğe bağlıdır; daha kısa yanıtlar istiyorsanız bir değer ayarlayın.

Akış

Chat Completion ayarlarında akışı açın. API, stream: true ile SSE destekler, böylece metin oluşturulurken görünür ve kötü bir yanıtı erken durdurabilirsiniz. Kullanım, akışın sonunda raporlanır.

Örnekleme

Sıcaklık, top_p, durdurma dizileri, seed ve frekans ile varlık cezaları modele iletilir. Yaratıcı sohbet için sıcaklık 0.8 ile 1.0 arasında, top_p ise 0.9 civarında ortak bir başlangıç noktasıdır. Eğer yanıtlar dolaşırsa veya tekrar ederse, sıcaklığı biraz düşürün ve küçük bir frekans cezası ekleyin. Etkisini görebilmek için bir seferde bir ayarı değiştirin.

Sistem isteminiz ve kartınız

Model, içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmıştır, bu nedenle sahnenin kalitesi sizin isteminiz ve karakter kartınıza bağlıdır. Net bir rol, ayar, ton ve birkaç örnek diyalog satırı, herhangi bir örnekleme ayarından daha fazlasını yapar. Yetişkinler için yazıyorsanız, ayarın yaşlar konusunda açık olduğundan emin olun: her karakter yetişkin olmalıdır.

Mesaj başına maliyet, hesaplandı

Fiyatlandırma, ön ödemeli kredi ile abonelik olmadan, 1M girdi token başına $0.15 ve 1M çıktı token başına $0.50'dir. SillyTavern her dönüşte kartı ve geçmişi yeniden gönderdiği için girdi baskındır.

Bir sohbet dönüşü 6.000 bağlam tokenı gönderir ve 400 token geri alırsa:

• Girdi: 6.000, 1M başına $0.15 ile $0.0009 eder.
• Çıktı: 1M başına $0.50 ile 400, $0.0002 eder.
• Toplam: Dönüş başına $0.0011.

200 dönüşlü bir oturum $0.22'e mal olur. $0.50 deneme kredisi yaklaşık 450 böyle dönüşü kapsar. Başarısız veya reddedilen istekler için ücret alınmaz. Krediyi eklediğinizde, $20 ile $500 arasındaki tüm tam tutarlar çalışır, $50'den itibaren +%5, $100'den itibaren +%10 ve $200'den itibaren +%15 eklenir; kart (Visa, Mastercard, Apple Pay, Google Pay) veya kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile. Kredi asla sona ermez. fiyatlandırma sayfası detayları içerir.

Yaygın hataları düzeltme

Belirti	Olası neden	Çözüm
Bağlanma hemen başarısız oluyor	Yanlış base URL veya anahtar	Son ek bir yol olmadan https://api.ornith.top/v1 kullanın; curl testini tekrarlayın
HTTP 429, kod rate_limited	Dakika başına çok fazla istek	Hızı düşürün; deneme anahtarları dakikada 60, tam anahtarlar dakikada 300 istek izni verir
HTTP 429, kod concurrency	Aynı anda çok fazla istek	Çalışan yanıtın bitmesini bekleyin; deneme anahtarları aynı anda 2'ye izin verir, tam anahtarlar 8'e izin verir
HTTP 429, Retry-After: 5	Geçici aşırı yüklenme	5 saniye sonra yeniden deneyin
İstek çok büyük	Gövde 8 MB'ı aştı	Bağlam boyutunu düşürün veya lorebook'u kısaltın
Bağlam çok uzun	İstem ve yanıt toplamı 100.000 tokenı aşıyor	Bağlam boyutunu veya yanıt uzunluğunu düşürün

Bir detay, grup sohbetlerinde ve ek arka plan çağrıları yapan özelliklerle insanları yakalar: akışlı bir istek, akış bitene kadar eşzamanlılık slotunu tutar. Eğer SillyTavern aynı anda bir yanıt, bir özet ve bir resim açıklama işi tetiklerse, 2 slotu olan bir deneme anahtarı üçüncüyü reddeder. Tam bir anahtar 8'e izin verir. İhtiyacınız olmayan ek özellikleri devre dışı bırakın veya onları zaman aralıklarına ayırın.

Tüm parametreler ve kesin hata şekilleri için API dokümantasyonunu okuyun.

Daha fazla kılavuz

• Sansürsüz LLM: Ne Anlama Geldiği ve Nasıl Kullanılacağı
• Ollama ile Yerel Olarak Çalıştırılacak En İyi Sansürsüz LLM
• Açık Kaynak LLM API Rehberi: Kurulum, Maliyetler ve Alternatifler