重點摘要
- 使用 Chat Completion,來源設為 Custom(OpenAI 相容),端點 https://api.ornith.top/v1,模型 ID 為 uncensored。
- 先用 curl 測試金鑰,以便區分金鑰問題與 SillyTavern 設定問題。
- 將上下文大小設定為與你的聊天相匹配;該模型支援最多 100,000 個 token。
- 群組聊天可能會同時觸發多個請求,而試用金鑰將同時請求數限制為 2。
開始前你需要準備什麼
你需要三樣東西:已執行的 SillyTavern 安裝、API 金鑰和端點詳細資訊。SillyTavern 是一個用於角色和角色扮演對話的自託管聊天前端,它可以與任何遵循 OpenAI 聊天格式的服務進行通訊。本網站提供這種服務,適用於合法的成人用途:小說、角色扮演和成人伴侶應用程式。它不會產生涉及未成年人的性內容,且任何設定都無法改變這一點。
收集這些值:
- Base URL:
https://api.ornith.top/v1 - 模型 ID:
uncensored - API 金鑰:在你使用 Google 或電子郵件與密碼登入後,於API 金鑰頁面建立。
新帳戶可以在該頁面一鍵領取 $0.50 的試用額度。它不需要信用卡,每人限領一次,且持續 7 天。這足以測試角色卡,因為一般聊天回合的成本不到一分錢(計算方法見下文)。
先用 curl 測試金鑰
在調整 SillyTavern 之前,請從終端機發送一個請求。如果成功,之後的任何失敗都是前端設定問題;如果失敗,問題出在金鑰或網路上。
curl https://api.ornith.top/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in one short sentence."}]
}'
你應該會收到包含 choices 陣列的 JSON。也請查看回應標頭:X-Balance-USD 顯示你剩餘的額度,X-Request-Id 是你未來聯繫支援時需要引用的內容。你也可以使用 GET /v1/models 列出模型:
curl https://api.ornith.top/v1/models \
-H "Authorization: Bearer $API_KEY"
該列表顯示了 SillyTavern 中應使用的模型 ID,即 uncensored。
逐步連線 SillyTavern
- 開啟 SillyTavern 並點擊頂部的插頭圖示以開啟 API 連線。
- 在 API 下拉選單中選擇 Chat Completion。
- 在 Chat Completion Source 下拉選單中選擇 Custom (OpenAI-compatible)。
- 在 Custom Endpoint (Base URL) 輸入
https://api.ornith.top/v1。停在/v1即可。不要新增/chat/completions,因為客戶端應用程式會自行附加該路徑。 - 將你的金鑰貼到 Custom API Key 欄位中。
- 在 Model ID 輸入
uncensored。 - 按下 Connect。帶有模型名稱的綠色狀態表示握手成功。
SillyTavern 的版本之間標籤會有些許變化,因此如果你的版本名稱不同,請尋找相同的概念:自訂 OpenAI 相容來源、端點欄位、金鑰欄位和模型欄位。如果連線失敗,請重複 curl 測試。curl 出現認證錯誤表示金鑰錯誤;curl 正常但連線失敗通常表示 URL 有拼寫錯誤,例如缺少 /v1 或有尾隨路徑。
連線後,開啟任何角色卡並發送訊息。如果你看到回覆,表示整合運作正常。其餘則是微調。
對角色扮演重要的設定
上下文大小
該模型具有 100,000 個 token 的上下文視窗,計算包含提示詞和回覆在內。在 SillyTavern 中,上下文大小滑桿控制每個回合發送多少歷史記錄、角色卡和 lorebook 文字。較大的值意味著角色能記住更多內容,且每個請求的成本更高,因為你每個回合都要為輸入 token 付費。良好的起始點是中等值,例如 16,000 到 32,000 個 token,僅在聊天足夠長需要時才提高。回應長度設定對應到 max_tokens,在此 API 中是可選的;如果你想要較短的回覆,請設定一個值。
串流輸出
在 Chat Completion 設定中開啟串流輸出。API 支援帶有 stream: true 的 SSE,因此文字會在生成時顯示,你可以提前停止不良回覆。使用情況會在串流結束時報告。
採樣
Temperature、top_p、stop sequences、seed 以及頻率和存在懲罰都會傳遞給模型。對於創意聊天,temperature 約為 0.8 到 1.0,top_p 接近 0.9 是常見的起始點。如果回覆冗長或重複,請稍微降低 temperature 並添加少量頻率懲罰。一次只更改一個設定,以便查看其效果。
你的系統提示詞和角色卡
該模型經過調整,可在沒有內容拒絕的情況下回答,因此場景的質量取決於你的提示詞和角色卡。明確的角色、設定、語調和幾行對話範例比任何採樣調整都更有效。如果你為成人讀者寫作,請確保設定中明確標註年齡:每個角色都應該是成年人。
每則訊息成本計算
定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,從預付額度扣除,無訂閱。由於 SillyTavern 會在每個回合重新發送角色卡和歷史記錄,因此輸入佔主導地位。
假設一個聊天回合發送 6,000 個 token 的上下文並收到 400 個 token 的回覆:
- 輸入:6,000 個,每 1M $0.15,即 $0.0009。
- 輸出:400 個,每 1M $0.50,即 $0.0002。
- 總計:每個回合 $0.0011。
一次 200 回合的會話費用為 $0.22。$0.50 的免費試用額度可支援約 450 個這樣的回合。失敗或被拒絕的請求不會計費。儲值時,$20 至 $500 之間的任意整數金額皆可,其中儲值 $50 贈加 5%、$100 贈加 10%、$200 贈加 15%,可透過信用卡(Visa、Mastercard、Apple Pay、Google Pay)或加密貨幣(TRC20 上的 USDT、Base 上的 USDC)支付。額度永不過期。定價頁面有詳細資訊。
修復常見錯誤
| 症狀 | 可能原因 | 修復方法 |
|---|---|---|
| 連線立即失敗 | Base URL 或金鑰錯誤 | 使用 https://api.ornith.top/v1,無尾隨路徑;重複 curl 測試 |
HTTP 429,程式碼 rate_limited | 每分鐘請求過多 | 放慢速度;試用金鑰每分鐘允許 60 次請求,完整金鑰每分鐘 300 次請求 |
HTTP 429,程式碼 concurrency | 同時請求過多 | 等待正在運行的回覆結束;試用金鑰允許同時 2 個請求,完整金鑰允許 8 個同時請求 |
HTTP 429,Retry-After: 5 | 暫時過載 | 等待 5 秒後重試 |
| 請求過大 | 主體超過 8 MB | 降低上下文大小或修剪 lorebook |
| 上下文太長 | 提示詞加回覆超過 100,000 個 token | 降低上下文大小或回應長度 |
一個細節會在使用群組聊天且啟用額外背景呼叫功能時影響你:串流請求會佔用並行請求槽位,直到串流結束為止。如果 SillyTavern 同時觸發回覆、摘要和圖片說明工作,擁有 2 個槽位的試用金鑰將拒絕第三個請求。完整金鑰允許 8 個槽位。停用不需要的額外功能,或將它們錯開發送。
有關所有參數和確切的錯誤結構,請閱讀 API 文件。
