Sansürsüz LLM: Ne Anlama Geldiği ve Nasıl Kullanılır

Sansürsüz bir LLM'in aslında ne olduğu

Çoğu sohbet ürünü, bir dil modelini reddiye davranış katmanlarıyla sarar. Bunların bir kısmı ağırlıklarda eğitilmiştir, bir kısmı bir sistem istemidir ve bir kısmı da girdinizi ve yanıtı okuyan ayrı bir filtredir. Sansürsüz bir LLM, ağırlıkları o kadar ayarlanmıştır ki ilk katman olan eğitilmiş reddiyeler çok daha zayıftır. Kurgudaki karanlık temalar, sert tıbbi veya hukuki konular ve ana akım asistanların genellikle reddettiği veya yumuşattığı diğer yetişkin materyalleri yanıtlar.

Bu terim biraz yanıltıcıdır. Modelden bir kablo kesilmiş gibi bir şey çıkarılmamıştır. Değişen şey eğitim verisi ve ayar adımlarıdır. Bir temel model, devasa bir metin koleksiyonundan dil öğrenir. Daha sonraki bir aşama, ona talimatlara uymayı ve genellikle uzun bir istek listesini reddetmeyi öğretir. Sansürsüz bir varyant, bu reddiye eğitimlerinin çoğunu atlar veya diğer yönde iten bir ayar ekler.

Bu sitenin arkasındaki hizmet, bu tür açık ağırlıklı bir modeli bağımsız bir sağlayıcı tarafından işletir. Büyük bir laboratuvarın resmi API'si değildir ve satıcılar arasında seçim yapan bir yönlendirici (router) değildir. Size standart bir sohbet tamamlama uç noktasının arkasında, ID'si uncensored olan tek bir model sunar.

Sansürsüz'ün ne anlama gelmediği

Modelin hiçbir sınırı olmadığı anlamına gelmez. Burada tek bir kesin çizgi vardır: reşit olmayanları içeren cinsel içerik asla olmaz. Hizmet yalnızca yasal yetişkin kullanımı için inşa edilmiştir. Dışında bir şeyler için bir modele ihtiyacınız varsa, bu doğru araç değildir.

Ayrıca modelin daha zeki, daha dürüst veya daha doğru olduğu anlamına gelmez. Daha az reddiye olan bir model hala hata yapar, bir şey bilmediğinde gerçek uydurur ve istemlerle aynı özeni gerektirir. Reddiyeleri kaldırmak, modelin ne söylemeye istekli olduğunu değiştirir, ancak akıl yürütme yeteneğini değil. Çıktısını diğer herhangi bir modelden aldığınız gibi ele alın: önemli olan her şeyi kontrol edin.

Son olarak, kendi sorumluluğunuzu atlayamayacağınız anlamına gelmez. Üzerine bir uygulama geliştirirseniz, kullanıcılarınızın ne yapabileceğine siz karar verirsiniz ve yaşadığınız yerde yasalara uyma yükümlülüğü sizdedir. Reddetmeyen bir model, korumasız bir araçtır; bu nedenle koruma ürününüzden gelmelidir.

Reddiler, yumuşatmalar ve ahlak öğütleri farklı şeylerdir

İnsanlar üç davranışı bir arada değerlendirir. Bir reddiye, düz bir "Buna yardımcı olamam"dır. Yumuşatma, açıklamalarla gömülmüş bir yanıttır. Ahlak öğütleme, istenmeyen bir ders niteliğindedir. Bir ana akım asistan genellikle aynı konu üzerinde bunların hepsini yapar. Sansürsüz bir model genellikle reddiyeyi ve dersin çoğunu atar; bu nedenle kurgu yazarları ve rol yapma geliştiricileri onu sever: çıktı karakterde kalır ve sahneyi terk edip üzerine yorum yapmaz.

Davranışın kaynağı

Bir model daha az reddederse, nedeni dört yerden birinde yatar ve hangisi olduğunu bilmek faydalıdır, çünkü bunların sadece bazıları sizin kontrolünüzdedir.

1. Eğitim verisi ve ayar. Bu ana kaynaktır. Sağlayıcı modeli oluşturduğunda sabitlenir ve API üzerinden değiştiremezsiniz.
2. Sistem istemi. Bunu siz kontrol edersiniz. Bir rol, bir ortam ve bir ton belirleyen net bir sistem mesajı, izin veren bir modelde bile yanıtları büyük ölçüde değiştirir.
3. Örneklem ayarları. Temperature ve top_p modelin ne hakkında konuşacağını belirlemez, ancak metnin ne kadar çeşitli ve tutarlı olduğunu değiştirirler. Bunlar modele geçirilir.
4. Platform filtreleri. Barındırılan API'lerin çoğu modelin önüne bir denetim katmanı ekler. Bu katman, temel ağırlıkların yanıt vereceği bir isteğin bile başarısız olmasının nedenidir. Üzerine inşa etmeden önce bir sağlayıcının bunu nasıl ele aldığını kontrol edin.

Pratik bir sonuç: Farklı bir modele "jailbreak" yaparak ulaşamazsınız. Bir ana akım asistan reddederse, zeki bir istem sadece bir sonraki güncellemeye kadar yardımcı olur. Sansürsüz bir model sorunu kaynağında atlar.

Daha az reddedilme için meşru kullanım alanları

İnsanların daha az reddedilme isteme nedenlerinin dürüst listesi, klişelerin gösterdiğinden daha uzundur.

• Kurgu ve dünya inşası. Romanlar şiddet, suç, yas ve zalimlik ile ilgilenir. Sahneyi bozan ve sizi uyaran bir yazma asistanı, bir gerilim veya savaş hikayesi için işe yaramaz.
• Yetişkinler için rol yapma ve arkadaş uygulamaları. Karakter odaklı sohbet, editoryal yorum yapmadan durmadan uzun oturumlar boyunca karakterde kalan bir modele ihtiyaç duyar.
• Güvenlik ve denetim testleri. İçerik filtreleri oluşturan ekipler, yakalamak istedikleri metinin gerçekçi örneklerine ihtiyaç duyar. Zorlu durumlar üretebilecek bir model, onlara test etme imkanı sağlar.
• Araştırma ve analiz. Aşırı uçlu metinleri özetlemek, propaganda incelemek veya hassas tarihi tartışmak, amacın açık olmasına rağmen, temkinli bir modelin filtrelerini tetikleyebilir.
• Dürüst tavsiye konuları. İlaçlar, zarar azaltma veya hukuki gri alanlar hakkındaki sorular, bir dizi uyarıdan ziyade doğrudan yanıtları hak eder. Modelin yanlış olabileceğini unutmayın, bu nedenle onu bir doktor veya avukat olarak görmeyin.

Bunların hiçbiri yasadışı bir şey gerektirmez ve hepsi kullanıcıyı bir yetişkin olarak gören bir modelle daha iyi çalışır.

Nasıl çağrılır: base URL, anahtar ve model ID

API, OpenAI sohbet tamamlama formatını izler; bu nedenle iki değeri değiştirdikten sonra herhangi bir OpenAI SDK veya uyumlu istemci çalışır. Temel URL https://api.ornith.top/v1 şeklindedir, anahtar bir Authorization: Bearer başlığında yer alır ve model kimliği uncensored şeklindedir. İki yöntem mevcuttur: POST /v1/chat/completions ve GET /v1/models.

Anahtarınızın çalıştığını doğrulamak için basit bir curl isteği ile başlayın:

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt editor for adult fiction."},
      {"role": "user", "content": "Rewrite this scene so the villain sounds more menacing."}
    ]
  }'

Python'da, resmi openai paketini kullanın ve yeni temel URL'ye işaret edin:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.ornith.top/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You write dark fantasy for adult readers."},
        {"role": "user", "content": "Describe a siege from the point of view of a tired defender."},
    ],
    temperature=0.9,
)
print(resp.choices[0].message.content)

Ve Node ile aynı:

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.ornith.top/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three bleak opening lines for a noir story." }],
  stream: true,
});

for await (const chunk of resp) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Akış, SSE üzerinden stream: true ile çalışır; araç çağırma ve JSON modu desteklenir ve bağlam penceresi istem ve yanıt birlikte 100.000 token'dır. API dokümantasyonu her parametreyi ve yanıt başlıklarını kapsar, X-Balance-USD başlığı dahil olmak üzere, bu başlık her çağrıda kalan kredinizi gösterir.

Gerçek sayılarla maliyet

Fiyatlandırma, ön ödemeli krediden kullandıkça öde esasındadır: 1M giriş token'ı başına $0.15 ve 1M çıkış token'ı başına $0.50. Abonelik yoktur, başarısız veya reddedilen istekler için ücret alınmaz ve kredi asla sona ermez.

Sistem mesajı ve geçmiş dahil 2.000 token'lık bir istem ve 500 token'lık bir yanıt ile tipik bir sohbet dönüşünü ele alalım:

• Girdi: 2.000 token, 1M başına $0,15 ile $0,0003 eder.
• Çıktı: 500 token, 1M başına $0,50 ile $0,00025 eder.
• Dönüş başına toplam: $0.00055.

Böyle bin dönüş $0.55 tutarındadır. Bu nedenle $0.50 deneme kredisi yaklaşık 900 dönüşü kapsar; bu da herhangi bir ödeme yapmadan önce yazı kalitesini yargılamak için yeterlidir. Daha ağır bir iş için, örneğin bir ayda 10M input token ve 2M output token için fatura $1.50 artı $1.00, yani $2.50 olur.

Bakiye yüklerken, $20 ile $500 arasındaki her tam tutar çalışır; $50'den itibaren %5, $100'den itibaren %10 ve $200'den itibaren %15 bonus verilir. Kart (Visa, Mastercard, Apple Pay, Google Pay) veya kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. Tam tablo için fiyatlandırma sayfasını ziyaret edin.

Deneme ve seçenekler arasında seçim

Yeni kullanıcılar, Google veya e-posta ve şifre ile kayıt olduktan sonra API anahtarı sayfasında tek tıkla $0.50 deneme kredisi talep edebilir. Kart gerektirmez, kişi başı bir tanedir ve 7 gün geçerlidir. Bir deneme anahtarı 2 eşzamanlı istek ve dakika başına 60 istek izni verir; tam anahtar 8 eşzamanlı ve dakika başına 300 istek izni verir. Bir dakikada bir API anahtarı alabilirsiniz ve yukarıdaki örnekleri çalıştırabilirsiniz.

Barındırılan bir model, daha az reddedilme elde etmenin tek yolu değildir. Açık ağırlıklı bir modeli de indirebilir ve kendi donanımınızda çalıştırabilirsiniz; bu, tam kontrol sağlar ve çevrimdışı çalışır, karşılığında yetkin bir GPU ve biraz kurulum gerektirir. Açık kaynak LLM API kılavuzumuz seçenekleri ve maliyetleri karşılaştırır. Donanım istemiyorsanız, bir uygulama için kararlı bir uç nokta ve kimsenin kullanmadığında sıfıra ölçeklenebilir faturalandırma istiyorsanız barındırılan yol kazanır.

Hassas metinlerle ilgilenenler için bir nokta daha: servise gönderilen istemler eğitim için kullanılmaz. Detaylar için gizlilik sayfasını okuyun.

Daha fazla kılavuz

• Ollama ile Yerel Olarak Çalıştırılacak En İyi Sansürsüz LLM
• SillyTavern İçin Sansürsüz LLM API: Kurulum Adımları
• Açık Kaynak LLM API Rehberi: Kurulum, Maliyetler ve Alternatifler