API LLM tanpa sensor untuk SillyTavern: Langkah Penyiapan

Yang Anda butuhkan sebelum memulai

Anda membutuhkan tiga hal: instalasi SillyTavern yang berjalan, kunci API, dan detail endpoint. SillyTavern adalah antarmuka obrolan self-hosted untuk percakapan karakter dan roleplay, dan dapat berbicara dengan layanan apa pun yang mengikuti format obrolan OpenAI. Situs ini menyediakan layanan tersebut untuk penggunaan dewasa yang sah: fiksi, roleplay, dan aplikasi teman untuk dewasa. Situs ini tidak akan menghasilkan konten seksual yang melibatkan anak di bawah umur, dan tidak ada pengaturan yang mengubah hal tersebut.

Kumpulkan nilai-nilai ini:

• URL Dasar: https://api.ornith.top/v1
• ID Model: uncensored
• Kunci API: dibuat di halaman kunci API setelah Anda masuk dengan Google atau dengan email dan kata sandi.

Akun baru dapat mengklaim $0,50 kredit uji coba dengan satu klik di halaman tersebut. Tidak perlu kartu, ini satu per orang, dan berlaku selama 7 hari. Itu cukup untuk menguji kartu karakter, karena satu putaran obrolan tipikal memakan biaya sepersekian sen (perhitungannya ada di bawah).

Uji kunci dengan curl terlebih dahulu

Sebelum mengubah SillyTavern, kirim satu permintaan dari terminal. Jika berhasil, kegagalan selanjutnya adalah pengaturan antarmuka depan; jika gagal, masalahnya adalah kunci atau jaringan.

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

Anda harus mendapatkan JSON dengan array choices. Lihat juga header respons: X-Balance-USD menunjukkan sisa kredit Anda, dan X-Request-Id adalah yang harus Anda kutip jika Anda menghubungi dukungan teknis. Anda juga dapat mencantumkan model dengan GET /v1/models:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

Daftar tersebut menunjukkan ID model yang harus digunakan di SillyTavern, yaitu uncensored.

Hubungkan SillyTavern langkah demi langkah

1. Buka SillyTavern dan klik ikon steker di bagian atas untuk membuka Koneksi API.
2. Di dropdown API, pilih Chat Completion.
3. Di dropdown Sumber Chat Completion, pilih Kustom (Kompatibel OpenAI).
4. Di Endpoint Kustom (URL Dasar), masukkan https://api.ornith.top/v1. Berhenti di /v1. Jangan tambahkan /chat/completions, karena aplikasi klien menambahkan jalur itu sendiri.
5. Tempel kunci Anda ke bidang Kunci API Kustom.
6. Di ID Model, ketik uncensored.
7. Tekan Connect. Status hijau dengan nama model berarti handshake berhasil.

Label menu bergeser sedikit antar rilis SillyTavern, jadi jika nama berbeda di versi Anda, carilah ide yang sama: sumber OpenAI-kustom yang kompatibel, bidang endpoint, bidang kunci, dan bidang model. Jika Sambungkan gagal, ulangi pengujian curl. Kesalahan autentikasi dari curl berarti kunci salah; curl yang berhasil dengan Sambungkan yang gagal biasanya berarti salah ketik di URL, seperti yang hilang /v1 atau jalur akhir.

Setelah terhubung, buka kartu karakter apa pun dan kirim pesan. Jika Anda melihat balasan, integrasi berfungsi. Sisanya adalah penyetelan.

Pengaturan yang penting untuk roleplay

Ukuran konteks

Model memiliki jendela konteks 100.000 token, menghitung prompt dan balasan bersama-sama. Di SillyTavern, penggeser ukuran konteks mengontrol seberapa banyak riwayat, kartu karakter, dan teks buku lore yang dikirim setiap giliran. Lebih besar berarti karakter mengingat lebih banyak dan setiap permintaan biaya lebih tinggi, karena Anda membayar token input setiap giliran. Titik awal yang baik adalah nilai moderat seperti 16.000 hingga 32.000 token, ditingkatkan hanya jika obrolan Anda cukup panjang untuk membutuhkannya. Pengaturan panjang respons dipetakan ke max_tokens, yang opsional di API ini; atur nilai jika Anda ingin balasan yang lebih pendek.

Streaming

Aktifkan streaming di pengaturan Chat Completion. API mendukung SSE dengan stream: true, sehingga teks muncul saat dihasilkan dan Anda dapat menghentikan balasan yang buruk lebih awal. Penggunaan dilaporkan di akhir stream.

Sampling

Suhu, top_p, urutan berhenti, benih, dan penalti frekuensi dan kehadiran diteruskan ke model. Untuk obrolan kreatif, suhu sekitar 0,8 hingga 1,0 dengan top_p dekat 0,9 adalah titik awal yang umum. Jika balasan mengular atau berulang, turunkan suhu sedikit dan tambahkan penalti frekuensi kecil. Ubah satu pengaturan pada satu waktu agar Anda dapat melihat efeknya.

Prompt sistem dan kartu Anda

Model ini disesuaikan untuk menjawab tanpa penolakan konten, sehingga kualitas adegan bergantung pada prompt dan kartu karakter Anda. Peran, pengaturan, nada, dan beberapa baris dialog contoh yang jelas lebih baik daripada penyesuaian pengacakan apa pun. Jika Anda menulis untuk audiens dewasa, pertahankan pengaturan yang eksplisit tentang usia: setiap karakter harus dewasa.

Biaya per pesan, dihitung

Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output, dari saldo prabayar tanpa langganan. Karena SillyTavern mengirim ulang kartu dan riwayat setiap giliran, input mendominasi.

Misalkan satu giliran obrolan mengirim 6.000 token konteks dan mendapatkan 400 token kembali:

• Input: 6.000 pada $0,15 per 1M adalah $0,0009.
• Output: 400 pada $0,50 per 1M adalah $0,0002.
• Total: $0,0011 per giliran.

Sesi 200 giliran biaya $0,22. Kredit uji coba $0,50 mencakup sekitar 450 giliran seperti itu. Permintaan yang gagal atau ditolak tidak dikenakan biaya. Saat Anda menambahkan kredit, jumlah utuh dari $20 hingga $500 berfungsi, dengan +5% dari $50, +10% dari $100 dan +15% dari $200, dengan kartu (Visa, Mastercard, Apple Pay, Google Pay) atau kripto (USDT pada TRC20, USDC pada Base). Kredit tidak pernah kedaluwarsa. Halaman harga memiliki detailnya.

Memperbaiki kesalahan umum

Gejala	Penyebab yang mungkin	Perbaikan
Sambungkan gagal segera	URL dasar atau kunci salah	Gunakan https://api.ornith.top/v1 tanpa jalur akhir; ulangi pengujian curl
HTTP 429, kode rate_limited	Terlalu banyak permintaan per menit	Perlambat; kunci uji coba mengizinkan 60 per menit, kunci penuh 300
HTTP 429, kode concurrency	Terlalu banyak permintaan sekaligus	Tunggu hingga balasan yang berjalan berakhir; kunci uji coba mengizinkan 2 sekaligus, kunci penuh 8
HTTP 429 dengan Retry-After: 5	Beban berlebih sementara	Coba lagi setelah 5 detik
Permintaan terlalu besar	Body lebih dari 8 MB	Turunkan ukuran konteks atau pangkas buku lore
Konteks terlalu panjang	Prompt ditambah balasan lebih dari 100.000 token	Turunkan ukuran konteks atau panjang respons

Satu detail yang membuat orang bingung dalam obrolan grup dan dengan fitur yang menjalankan panggilan latar belakang tambahan: permintaan streaming memegang slot konkurensinya hingga stream berakhir. Jika SillyTavern memicu balasan, ringkasan, dan pekerjaan gambar-keterangan pada saat yang sama, kunci uji coba dengan 2 slot akan menolak yang ketiga. Kunci penuh mengizinkan 8. Nonaktifkan tambahan yang tidak Anda butuhkan, atau atur jaraknya.

Untuk semua parameter dan bentuk kesalahan yang tepat, baca dok API.

Panduan lainnya

• LLM Tanpa Sensor: Apa Artinya dan Cara Menggunakannya
• LLM Tanpa Sensor Terbaik untuk Dijalankan Secara Lokal Dengan Ollama
• Panduan API LLM Sumber Terbuka: Pengaturan, Biaya, dan Alternatif