SillyTavern के लिए अनसेंसर्ड LLM API: सेटअप चरण

शुरू करने से पहले आपको क्या चाहिए

आपको तीन चीजों की आवश्यकता है: एक चल रहा SillyTavern इंस्टॉल, एक API कुंजी, और एंडपॉइंट विवरण। SillyTavern चरित्र और रोलप्ले संवादों के लिए एक स्व-होस्टेड चैट फ्रंट एंड है, और यह किसी भी सेवा से बात कर सकता है जो OpenAI चैट फॉर्मेट का पालन करती है। यह साइट कानूनी वयस्कों के उपयोग के लिए एक सेवा प्रदान करती है: फिक्शन, रोलप्ले और वयस्कों के लिए कंपैनियन ऐप्स। यह नाबालिगों से संबंधित यौन सामग्री उत्पन्न नहीं करेगा, और कोई सेटिंग बदलाव इसे नहीं बदलेगा।

इन मानों को एकत्र करें:

• बेस URL: https://api.ornith.top/v1
• मॉडल ID: uncensored
• API कुंजी: API कुंजी पृष्ठ पर बनाई गई, Google या ईमेल और पासवर्ड से साइन इन करने के बाद।

नए खातों को उस पृष्ठ पर एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करने की अनुमति है। इसके लिए कार्ड की आवश्यकता नहीं है, यह हर व्यक्ति के लिए एक बार ही उपलब्ध है और यह 7 दिनों तक मान्य रहता है। यह एक कैरेक्टर कार्ड का परीक्षण करने के लिए पर्याप्त है, क्योंकि एक सामान्य चैट टर्न में लागत एक सेंट का अंश होती है (गणना आगे दी गई है)।

कुंजी को curl के साथ परीक्षण करें

SillyTavern को संभालने से पहले, टर्मिनल से एक अनुरोध भेजें। यदि यह काम करता है, तो बाद की कोई भी विफलता फ्रंट-एड सेटिंग की है; यदि यह विफल रहता है, तो समस्या कुंजी या नेटवर्क की है।

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

आपको JSON मिलना चाहिए जिसमें choices सरणी हो। प्रतिक्रिया हेडर भी देखें: X-Balance-USD आपकी शेष क्रेडिट दिखाता है, और X-Request-Id वह है जिसे आप सहायता से संपर्क करने पर उद्धृत कर सकते हैं। आप GET /v1/models के साथ मॉडल की सूची भी देख सकते हैं:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

सूची में SillyTavern में उपयोग करने के लिए मॉडल ID दिखाई देती है, जो uncensored है।

SillyTavern को चरण दर चरण कनेक्ट करें

1. SillyTavern खोलें और ऊपर प्लग आइकन पर क्लिक करके API Connections खोलें।
2. API ड्रॉपडाउन में Chat Completion चुनें।
3. Chat Completion Source ड्रॉपडाउन में Custom (OpenAI-compatible) चुनें।
4. Custom Endpoint (Base URL) में https://api.ornith.top/v1 दर्ज करें। /v1 पर रुकें। /chat/completions न जोड़ें, क्योंकि क्लाइंट ऐप उस पथ को स्वयं जोड़ देता है।
5. अपनी कुंजी Custom API Key फ़ील्ड में पेस्ट करें।
6. Model ID में uncensored टाइप करें।
7. Connect दबाएँ। मॉडल नाम के साथ एक हरा स्टेटस इसका अर्थ है कि हैंडशेक काम कर गया है।

SillyTavern रिलीज़ के बीच मेनू लेबल्स थोड़े बदल जाते हैं, इसलिए यदि आपके संस्करण पर कोई नाम अलग है, तो उसी विचार के लिए खोजें: एक कस्टम OpenAI-संगत स्रोत, एक एंडपॉइंट फ़ील्ड, एक कुंजी फ़ील्ड और एक मॉडल फ़ील्ड। यदि कनेक्ट विफल हो जाता है, तो curl परीक्षण दोहराएं। curl से प्रमाणीकरण त्रुटि का अर्थ है कि कुंजी गलत है; एक काम करने वाला curl लेकिन विफल कनेक्ट का अर्थ आमतौर पर URL में टाइपो है, जैसे कि एक गायब /v1 या एक अतिरिक्त पथ।

कनेक्ट होने के बाद, किसी भी कैरेक्टर कार्ड को खोलें और संदेश भेजें। यदि आप प्रतिक्रिया देखते हैं, तो इंटीग्रेशन काम कर रहा है। बाकी काम समायोजन है।

रोलप्ले के लिए महत्वपूर्ण सेटिंग्स

कॉन्टेक्स्ट विंडो का आकार

मॉडल में 100,000-टोकन की कॉन्टेक्स्ट विंडो होती है, जिसमें प्रॉम्प्ट और प्रतिक्रिया दोनों शामिल हैं। SillyTavern में, कॉन्टेक्स्ट साइज़ स्लाइडर यह नियंत्रित करता है कि प्रत्येक टर्न पर कितना इतिहास, कैरेक्टर कार्ड और लोरबुक टेक्स्ट भेजा जाता है। बड़ा मान मतलब कैरेक्टर ज्यादा याद रखेगा और हर अनुरोध में अधिक लागत आएगी, क्योंकि आप हर टर्न पर इनपुट टोकन के लिए भुगतान करते हैं। एक अच्छा शुरुआती बिंदु 16,000 से 32,000 टोकन का एक मध्यम मान है, तभी बढ़ाएं जब आपकी चैटें इतनी लंबी हों कि इसकी आवश्यकता हो। प्रतिक्रिया लंबाई सेटिंग max_tokens से मैप होती है, जो इस API पर वैकल्पिक है; यदि आप छोटी प्रतिक्रियाएं चाहते हैं तो एक मान सेट करें।

स्ट्रीमिंग

Chat Completion सेटिंग्स में स्ट्रीमिंग चालू करें। API stream: true के साथ SSE का समर्थन करता है, इसलिए टेक्स्ट जनरेट होते ही दिखाई देता है और आप बुरे जवाब को जल्दी रोक सकते हैं। उपयोग स्ट्रीम के अंत में रिपोर्ट किया जाता है।

सैंपलिंग

तापमान, top_p, स्टॉप सीक्वेंस, सीड और फ्रीक्वेंसी व प्रेजेंस पेनल्टी मॉडल को पास किए जाते हैं। रचनात्मक चैट के लिए, 0.8 से 1.0 के आसपास तापमान और 0.9 के करीब top_p एक सामान्य शुरुआती बिंदु है। यदि प्रतिक्रियाएं लंबी या दोहराई जाती हैं, तो तापमान को थोड़ा कम करें और एक छोटी फ्रीक्वेंसी पेनल्टी जोड़ें। एक समय में एक सेटिंग बदलें ताकि आप उसका प्रभाव देख सकें।

आपका सिस्टम प्रॉम्प्ट और कार्ड

मॉडल को बिना सेंसर जवाब देने के लिए ट्यून किया गया है, इसलिए दृश्य की गुणवत्ता आपके प्रॉम्प्ट और कैरेक्टर कार्ड पर निर्भर करती है। एक स्पष्ट भूमिका, सेटिंग, टोन और संवाद की कुछ उदाहरण लाइनें किसी भी सैम्पलिंग ट्विक से अधिक प्रभावी होती हैं। यदि आप वयस्क दर्शकों के लिए लिखते हैं, तो सेटिंग में उम्र के बारे में स्पष्ट रहें: हर कैरेक्टर वयस्क होना चाहिए।

प्रति संदेश लागत, गणना की गई

मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, प्रीपेड क्रेडिट से, कोई सदस्यता नहीं। चूंकि SillyTavern हर टर्न पर कार्ड और इतिहास को फिर से भेजता है, इनपुट प्रमुख होता है।

मान लीजिए कि एक चैट टर्न 6,000 टोकन कॉन्टेक्स्ट भेजता है और 400 टोकन प्राप्त करता है:

• इनपुट: 6,000 @ $0.15 प्रति 1M = $0.0009।
• आउटपुट: 400 @ $0.50 प्रति 1M = $0.0002।
• कुल: $0.0011 प्रति टर्न।

200-टर्न की सत्र की लागत $0.22 है। $0.50 का ट्रायल क्रेडिट लगभग 450 ऐसे टर्न कवर करता है। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। जब आप क्रेडिट जोड़ते हैं, तो $20 से $500 तक कोई भी पूर्ण राशि काम करती है, $50 से +5%, $100 से +10% और $200 से +15% बोनस मिलता है, कार्ड (Visa, Mastercard, Apple Pay, Google Pay) या क्रिप्टो (TRC20 पर USDT, Base पर USDC) के माध्यम से। क्रेडिट कभी समाप्त नहीं होता। मूल्य निर्धारण पृष्ठ पर विवरण उपलब्ध हैं।

सामान्य त्रुटियों को ठीक करना

लक्षण	संभावित कारण	समाधान
कनेक्ट तुरंत विफल रहता है	गलत बेस URL या कुंजी	https://api.ornith.top/v1 का उपयोग करें, जिसमें कोई ट्रेलिंग पाथ न हो; curl परीक्षण दोहराएँ
HTTP 429, कोड rate_limited	प्रति मिनट बहुत सारे अनुरोध	गति कम करें; ट्रायल कुंजियाँ प्रति मिनट 60 की अनुमति देती हैं, पूर्ण कुंजियाँ 300
HTTP 429, कोड concurrency	एक साथ बहुत सारे अनुरोध	चल रहे उत्तर के समाप्त होने का प्रतीक्षा करें; ट्रायल कुंजियाँ एक साथ 2 की अनुमति देती हैं, पूर्ण कुंजियाँ 8
Retry-After: 5 के साथ HTTP 429	अस्थायी ओवरलोड	5 सेकंड के बाद पुनः प्रयास करें
अनुरोध बहुत बड़ा है	बॉडी 8 MB से अधिक	कॉन्टेक्स्ट साइज कम करें या लोरबुक ट्राइम करें
कॉन्टेक्स्ट बहुत लंबा है	प्रॉम्प्ट और उत्तर 100,000 टोकन से अधिक	कॉन्टेक्स्ट साइज़ या प्रतिक्रिया की लंबाई कम करें

एक विवरण समूह चैट्स और उन सुविधाओं में लोगों को पकड़ता है जो अतिरिक्त बैकग्राउंड कॉल चलाती हैं: एक स्ट्रीम किए गए अनुरोध अपनी कॉन्करेंसी स्लॉट को तब तक पकड़े रखता है जब तक स्ट्रीम समाप्त नहीं हो जाती। यदि SillyTavern एक प्रतिक्रिया, एक सारांश और एक इमेज-कैप्शन नौकरी एक ही समय पर चलाता है, तो 2 स्लॉट वाले ट्रायल कुंजी तीसरी को अस्वीकार कर देगी। एक पूर्ण कुंजी 8 की अनुमति देती है। उन अतिरिक्त सुविधाओं को अक्षम करें जिनकी आपको आवश्यकता नहीं है, या उन्हें अलग-अलग समय पर चलाएं।

सभी पैरामीटर और सटीक त्रुटि संरचनाओं के लिए, API दस्तावेज़ पढ़ें।

अधिक गाइड

• अनसेंसर्ड LLM: इसका अर्थ और उपयोग कैसे करें
• Ollama के साथ स्थानीय रूप से चलाने के लिए सर्वश्रेष्ठ बिना सेंसर LLM
• ओपन सोर्स LLM API गाइड: सेटअप, लागत और विकल्प