API LLM ไม่เซ็นเซอร์สำหรับ SillyTavern: ขั้นตอนการตั้งค่า SillyTavern: ขั้นตอนการตั้งค่า

สิ่งที่คุณต้องมีก่อนเริ่ม

คุณต้องการสามสิ่ง: การติดตั้ง SillyTavern ที่ทำงานอยู่, API key และรายละเอียดของเอนด์พอยต์ SillyTavern คือเว็บแอปพลิเคชันแชทแบบโฮสต์เองสำหรับการสนทนาตัวละครและบทบาทสมมติ และสามารถเชื่อมต่อกับบริการใดๆ ที่ปฏิบัติตามรูปแบบแชทของ OpenAI เว็บไซต์นี้ให้บริการดังกล่าวสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย: นิยาย บทบาทสมมติ และแอปเพื่อนสำหรับผู้ใหญ่ จะไม่สร้างเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ และการตั้งค่าใดๆ ก็จะไม่เปลี่ยนแปลงสิ่งนี้

รวบรวมค่าเหล่านี้:

• Base URL: https://api.ornith.top/v1
• รหัสโมเดล: uncensored
• คีย์ API: สร้างขึ้นที่หน้า คีย์ API หลังจากที่คุณเข้าสู่ระบบด้วย Google หรือด้วยอีเมลและรหัสผ่าน

บัญชีใหม่สามารถขอเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกหนึ่งครั้งบนหน้านั้น ไม่ต้องใช้บัตร ใช้ได้หนึ่งครั้งต่อคน และใช้ได้เป็นเวลา 7 วัน นั่นเพียงพอสำหรับการทดสอบการ์ดตัวละคร เพราะการสนทนาหนึ่งรอบมีต้นทุนเพียงเศษเสี้ยวของเซ็นต์ (การคำนวณอยู่ด้านล่าง)

ทดสอบคีย์ด้วย curl ก่อน

ก่อนปรับแต่ง SillyTavern ให้ส่งคำขอหนึ่งครั้งจากเทอร์มินัล หากใช้งานได้ ความล้มเหลวในขั้นตอนต่อไปจะเป็นการตั้งค่าของหน้าเว็บ หากใช้งานไม่ได้ ปัญหาคือคีย์หรือเครือข่าย

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

คุณควรได้รับ JSON ที่มีอาร์เรย์ choices นอกจากนี้ให้ดูส่วนหัวของคำตอบด้วย: X-Balance-USD แสดงเครดิตคงเหลือของคุณ และ X-Request-Id คือค่าที่ต้องอ้างอิงหากคุณติดต่อฝ่ายสนับสนุน คุณยังสามารถดูรายการโมเดลด้วย GET /v1/models:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

รายการนี้แสดง ID โมเดลที่จะใช้ใน SillyTavern ซึ่งคือ uncensored

เชื่อมต่อ SillyTavern ทีละขั้นตอน

1. เปิด SillyTavern แล้วคลิกไอคอนปลั๊กที่ด้านบนเพื่อเปิด API Connections
2. ในเมนูแบบเลื่อนลง API ให้เลือก Chat Completion
3. ในเมนูแบบเลื่อนลง แหล่งที่มาของการสร้างแชท ให้เลือก กำหนดเอง (เข้ากันได้กับ OpenAI)
4. ใน Custom Endpoint (Base URL) ให้ป้อน https://api.ornith.top/v1 โดยหยุดที่ /v1 อย่าเพิ่ม /chat/completions เพราะไคลเอนต์จะเพิ่มเส้นทางนี้ให้เอง
5. วางคีย์ของคุณลงในช่อง Custom API Key
6. ในช่อง รหัสโมเดล ให้พิมพ์ uncensored
7. กด เชื่อมต่อ สถานะสีเขียวพร้อมชื่อโมเดลหมายถึงการเชื่อมต่อสำเร็จ

ป้ายเมนูอาจเปลี่ยนไปเล็กน้อยในแต่ละเวอร์ชันของ SillyTavern ดังนั้นหากชื่อแตกต่างจากเวอร์ชันของคุณ ให้มองหาตัวเลือกที่มีลักษณะเดียวกัน: แหล่งข้อมูลแบบ OpenAI ที่ปรับแต่งได้ ช่อง endpoint ช่องคีย์ และช่องโมเดล หากการเชื่อมต่อล้มเหลว ให้ทดสอบด้วย curl อีกครั้ง ข้อผิดพลาดการตรวจสอบสิทธิ์จาก curl หมายถึงคีย์ไม่ถูกต้อง แต่หาก curl ทำงานได้แต่การเชื่อมต่อล้มเหลว มักเกิดจากการพิมพ์ URL ผิด เช่น ขาด /v1 หรือมีเส้นทางส่วนเกิน

เมื่อเชื่อมต่อแล้ว ให้เปิดการ์ดตัวละครใดๆ แล้วส่งข้อความ หากเห็นการตอบกลับ แสดงว่าการผสานระบบทำงานได้ ส่วนที่เหลือคือการปรับแต่ง

การตั้งค่าที่สำคัญสำหรับการเล่นบทบาทสมมติ

ขนาดบริบท

โมเดลนี้มีหน้าต่างบริบท 100,000 โทเคน ซึ่งนับรวมพรอมต์และการตอบกลับ ใน SillyTavern ตัวปรับขนาดขนาดบริบทจะควบคุมปริมาณประวัติ การ์ดตัวละคร และข้อความในหนังสือ Lorebook ที่จะส่งในแต่ละรอบ ค่าที่สูงขึ้นหมายถึงตัวละครจะจำข้อมูลได้มากขึ้น แต่แต่ละคำขอจะมีต้นทุนสูงขึ้น เพราะคุณต้องจ่ายสำหรับโทเคนอินพุตในทุกๆ รอบ จุดเริ่มต้นที่ดีคือค่าปานกลาง เช่น 16,000 ถึง 32,000 โทเคน และเพิ่มเฉพาะเมื่อการสนทนาของคุณยาวพอที่จะต้องการค่าดังกล่าว การตั้งค่าความยาวของการตอบกลับจะแมปกับ max_tokens ซึ่งเป็นตัวเลือกใน API นี้; ตั้งค่าหากต้องการการตอบกลับที่สั้นลง

สตรีมมิง

เปิดใช้งานสตรีมมิงในการตั้งค่า Chat Completion API รองรับ SSE ด้วย stream: true ทำให้ข้อความปรากฏขึ้นเมื่อถูกสร้าง และคุณสามารถหยุดการตอบกลับที่ไม่ต้องการได้ทันที การใช้งานจะถูกรายงานที่ท้ายสตรีม

การสุ่มตัวอย่าง

อุณหภูมิ top_p ลำดับหยุด ตัวแปรสุ่ม และค่าปรับความถี่และการปรากฏ จะถูกส่งผ่านไปยังโมเดล สำหรับการสนทนาเชิงสร้างสรรค์ ค่าอุณหภูมิประมาณ 0.8 ถึง 1.0 พร้อม top_p ใกล้ 0.9 เป็นจุดเริ่มต้นทั่วไป หากการตอบกลับยาวหรือซ้ำซ้อน ให้ลดค่าอุณหภูมิลงเล็กน้อยและเพิ่มค่าปรับความถี่เล็กน้อย เปลี่ยนการตั้งค่าทีละรายการเพื่อดูผลกระทบ

พรอมต์ระบบและการ์ดของคุณ

โมเดลได้รับการปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหา ดังนั้นคุณภาพของฉากขึ้นอยู่กับพรอมต์และการ์ดตัวละครของคุณ การระบุบทบาท ฉาก น้ำเสียง และตัวอย่างบรรทัดบทสนทนาสั้นๆ มีประสิทธิภาพมากกว่าการปรับค่าการสุ่มตัวอย่าง หากคุณเขียนเนื้อหาสำหรับผู้ใหญ่ ให้ระบุอายุอย่างชัดเจนในฉาก: ตัวละครทุกตัวต้องเป็นผู้ใหญ่

ต้นทุนต่อข้อความ คำนวณแล้ว

ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต โดยหักจากเครดิตแบบเติมเงินล่วงหน้า ไม่มีบริการแบบสมาชิก เนื่องจาก SillyTavern ส่งการ์ดและประวัติใหม่ทุกครั้ง โทเคนอินพุตจึงมีปริมาณมาก

สมมติว่าการสนทนาหนึ่งรอบส่งบริบท 6,000 โทเคน และได้รับ 400 โทเคนกลับ:

• อินพุต: 6,000 ที่ $0.15 ต่อ 1M คือ $0.0009
• เอาต์พุต: 400 ที่ $0.50 ต่อ 1M คือ $0.0002
• รวม: $0.0011 ต่อรอบ

เซสชัน 200 รอบมีต้นทุน $0.22 เครดิตทดลองใช้ $0.50 ครอบคลุมการสนทนาประมาณ 450 รอบดังกล่าว คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน เมื่อคุณเติมเครดิต จำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ใช้ได้ พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 โดยชำระด้วยบัตร (Visa, Mastercard, Apple Pay, Google Pay) หรือคริปโต (USDT บน TRC20, USDC บน Base) เครดิตไม่หมดอายุ รายละเอียดเพิ่มเติมอยู่ที่หน้า ราคา

การแก้ไขข้อผิดพลาดทั่วไป

อาการ	สาเหตุที่เป็นไปได้	การแก้ไข
เชื่อมต่อไม่สำเร็จทันที	URL พื้นฐานหรือคีย์ไม่ถูกต้อง	ใช้ https://api.ornith.top/v1 โดยไม่มีเส้นทางต่อท้าย; ทำการทดสอบ curl ซ้ำ
HTTP 429, รหัส rate_limited	คำขอเกินต่อนาที	ลดความเร็วลง; คีย์แบบทดลองอนุญาต 60 คำขอต่อนาที คีย์แบบเต็มอนุญาต 300 คำขอต่อนาที
HTTP 429, รหัส concurrency	คำขอพร้อมกันมากเกินไป	รอให้การตอบกลับที่กำลังดำเนินการสิ้นสุดลง; คีย์แบบทดลองอนุญาต 2 คำขอพร้อมกัน คีย์แบบเต็มอนุญาต 8 คำขอพร้อมกัน
HTTP 429 พร้อม Retry-After: 5	โอเวอร์โหลดชั่วคราว	ลองใหม่หลังจาก 5 วินาที
คำขอมีขนาดใหญ่เกินไป	Body เกิน 8 MB	ลดขนาดหน้าต่างบริบทหรือตัดแต่ง lorebook
หน้าต่างบริบทยาวเกินไป	พรอมต์รวมกับการตอบกลับเกิน 100,000 โทเคน	ลดขนาดหน้าต่างบริบทหรือความยาวของการตอบกลับ

รายละเอียดหนึ่งที่ทำให้ผู้ใช้ติดขัดในแชทกลุ่มและเมื่อใช้ฟีเจอร์ที่เรียกทำงานเพิ่มเติมในพื้นหลังคือ คำขอแบบสตรีมมิงหนึ่งรายการจะครอบครองช่องความพร้อมใช้งานพร้อมกันไว้จนกว่าสตรีมจะจบ หาก SillyTavern ส่งการตอบกลับ การสรุปข้อความ และงานอธิบายภาพพร้อมกันในเวลาเดียวกัน คีย์ทดลองที่มี 2 ช่องจะปฏิเสธคำขอที่สาม คีย์เต็มอนุญาตได้ 8 ช่อง ปิดฟีเจอร์เสริมที่ไม่จำเป็น หรือกระจายเวลาการใช้งาน

สำหรับพารามิเตอร์ทั้งหมดและรูปแบบข้อผิดพลาดที่แน่นอน อ่าน เอกสาร API

คู่มือเพิ่มเติม

• LLM Uncensored: ความหมายและการใช้งาน
• LLM uncensored ที่ดีที่สุดสำหรับรันในเครื่องด้วย Ollama
• คู่มือ API LLM แบบ open source: การตั้งค่า ค่าใช้จ่าย และทางเลือก