LLM không kiểm duyệt: Ý nghĩa và cách sử dụng

LLM không kiểm duyệt thực sự là gì

Hầu hết các sản phẩm chat đều bao bọc một mô hình ngôn ngữ trong các lớp hành vi từ chối. Một phần được huấn luyện vào trọng số, một phần là prompt hệ thống và một phần là bộ lọc riêng biệt đọc đầu vào và câu trả lời của bạn. LLM không kiểm duyệt là một mô hình có trọng số được tinh chỉnh sao cho lớp đầu tiên, các từ chối được huấn luyện, yếu hơn nhiều. Nó trả lời các câu hỏi về các chủ đề tối tăm trong tiểu thuyết, các chủ đề y tế hoặc pháp lý thẳng thắn và các tài liệu người lớn khác mà trợ lý chính thống thường từ chối hoặc làm mềm đi.

Từ này hơi không chính xác. Không có gì bị loại bỏ khỏi mô hình như một sợi cáp bị cắt. Những gì thay đổi là dữ liệu huấn luyện và các bước tinh chỉnh. Một mô hình cơ sở học ngôn ngữ từ một bộ sưu tập văn bản khổng lồ. Một giai đoạn sau đó dạy nó tuân theo hướng dẫn và, thường là, từ chối một danh sách dài các yêu cầu. Biến thể không kiểm duyệt bỏ qua hầu hết việc huấn luyện từ chối đó, hoặc thêm tinh chỉnh đẩy theo hướng khác.

Dịch vụ đằng sau trang web này chạy một mô hình trọng số mở loại này, do một nhà cung cấp độc lập vận hành. Nó không phải là API chính thức của bất kỳ phòng thí nghiệm lớn nào và nó không phải là bộ định tuyến chọn giữa các nhà cung cấp. Bạn nhận được một mô hình, với ID uncensored, đằng sau một endpoint chat completions tiêu chuẩn.

Điều không kiểm duyệt không có nghĩa là

Nó không có nghĩa là mô hình không có giới hạn. Có một ranh giới cứng ở đây: không có nội dung tình dục liên quan đến người chưa thành niên, vào bất kỳ thời điểm nào. Dịch vụ được xây dựng chỉ dành cho việc sử dụng hợp pháp của người lớn. Nếu bạn cần một mô hình cho bất kỳ mục đích nào khác, đây không phải là công cụ phù hợp.

Nó cũng không có nghĩa là mô hình thông minh hơn, trung thực hơn hoặc chính xác hơn. Một mô hình có ít từ chối hơn vẫn mắc lỗi, vẫn bịa ra sự thật khi nó không biết điều gì đó và vẫn cần sự cẩn thận tương tự với các prompt. Việc loại bỏ các từ chối thay đổi những gì nó sẵn sàng nói, không phải cách nó suy luận. Hãy xử lý đầu ra của nó như bạn sẽ làm với bất kỳ mô hình nào khác: kiểm tra bất cứ điều gì quan trọng.

Cuối cùng, nó không có nghĩa là bạn có thể bỏ qua trách nhiệm của mình. Nếu bạn xây dựng một ứng dụng dựa trên đó, bạn quyết định những gì người dùng của bạn có thể làm và bạn chịu trách nhiệm tuân theo pháp luật nơi bạn và họ sinh sống. Một mô hình không từ chối là một công cụ không có rào chắn, vì vậy rào chắn phải đến từ sản phẩm của bạn.

Từ chối, dè dặt và đạo đức hóa là những thứ khác nhau

Người ta gộp chung ba hành vi lại. Từ chối là một câu trả lời dứt khoát "Tôi không thể giúp việc đó". Lảng tránh là một câu trả lời bị chôn vùi dưới các tuyên bố miễn trừ trách nhiệm. Đạo đức hóa là một bài giảng không được yêu cầu. Một trợ lý thông thường thường làm cả ba điều này trên cùng một chủ đề. Một mô hình không kiểm duyệt thường loại bỏ lời từ chối và hầu hết các bài giảng, đó là lý do tại sao các nhà văn tiểu thuyết và nhà phát triển nhập vai thích nó: đầu ra vẫn giữ được nhân vật thay vì rời khỏi cảnh để bình luận về nó.

Hành vi đến từ đâu

Nếu một mô hình từ chối ít hơn, nguyên nhân nằm trong một trong bốn vị trí và thật hữu ích khi biết điều đó, vì chỉ một số trong số chúng nằm trong tầm kiểm soát của bạn.

1. Dữ liệu huấn luyện và tinh chỉnh. Đây là nguồn chính. Nó được cố định khi nhà cung cấp xây dựng mô hình, và bạn không thể thay đổi nó từ API.
2. Prompt hệ thống. Bạn kiểm soát phần này. Một thông điệp hệ thống rõ ràng thiết lập một vai trò, bối cảnh và giọng điệu thay đổi đáng kể các câu trả lời, ngay cả trên một mô hình dễ dãi.
3. Cài đặt lấy mẫu. Temperature và top_p không quyết định mô hình sẽ thảo luận về điều gì, nhưng chúng thay đổi mức độ đa dạng và mức độ mạch lạc của văn bản. Những cài đặt này được truyền trực tiếp đến mô hình.
4. Bộ lọc nền tảng. Nhiều API được lưu trữ thêm một lớp kiểm duyệt phía trước mô hình. Lớp đó là lý do một yêu cầu có thể thất bại ngay cả khi các trọng số cơ bản sẽ trả lời nó. Hãy kiểm tra cách một nhà cung cấp xử lý điều này trước khi bạn xây dựng dựa trên nó.

Một hệ quả thực tế: bạn không thể "bẻ khóa" để đạt được một mô hình khác. Nếu một trợ lý chính thống từ chối, một prompt thông minh chỉ giúp cho đến lần cập nhật tiếp theo. Một mô hình không kiểm duyệt bỏ qua vấn đề tại nguồn.

Các mục đích hợp pháp cho ít từ chối hơn

Danh sách trung thực về lý do mọi người muốn ít từ chối hơn dài hơn giả định thông thường.

• Tiểu thuyết và xây dựng thế giới. Tiểu thuyết đề cập đến bạo lực, tội ác, nỗi đau và sự tàn bạo. Một trợ lý viết sách phá vỡ cảnh để cảnh báo bạn thì vô dụng cho một truyện trinh thám hoặc truyện chiến tranh.
• Nhập vai và ứng dụng bạn đồng hành cho người lớn. Trò chuyện dựa trên nhân vật cần một mô hình giữ vững nhân vật xuyên suốt các phiên dài mà không dừng lại để bình luận.
• Kiểm thử an toàn và kiểm duyệt. Các nhóm xây dựng bộ lọc nội dung cần các ví dụ thực tế về văn bản họ muốn chặn. Một mô hình có thể tạo ra các trường hợp khó giúp họ kiểm thử.
• Nghiên cứu và phân tích. Tóm tắt các văn bản cực đoan, nghiên cứu tuyên truyền hoặc thảo luận về lịch sử nhạy cảm đôi khi kích hoạt bộ lọc của một mô hình thận trọng mặc dù mục đích rất rõ ràng.
• Chủ đề lời khuyên thẳng thắn. Các câu hỏi về ma túy, giảm thiểu tác hại hoặc các vùng xám pháp lý xứng đáng nhận được câu trả lời trực tiếp thay vì một bức tường các điều kiện. Hãy nhớ rằng mô hình có thể sai, vì vậy đừng coi nó như một bác sĩ hoặc luật sư.

Không có điều nào trong số này yêu cầu bất kỳ điều gì bất hợp pháp và tất cả đều hoạt động tốt hơn với một mô hình coi người dùng như một người trưởng thành.

Cách gọi: URL cơ sở, khóa và ID mô hình

API tuân theo định dạng chat completions của OpenAI, vì vậy bất kỳ SDK OpenAI hoặc máy khách tương thích nào cũng hoạt động sau khi bạn thay đổi hai giá trị. URL cơ sở là https://api.ornith.top/v1, khóa đi vào tiêu đề Authorization: Bearer và ID mô hình là uncensored. Hai phương thức có sẵn: POST /v1/chat/completions và GET /v1/models.

Bắt đầu với một yêu cầu curl đơn giản để xác nhận khóa của bạn hoạt động:

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt editor for adult fiction."},
      {"role": "user", "content": "Rewrite this scene so the villain sounds more menacing."}
    ]
  }'

Trong Python, sử dụng gói openai chính thức và trỏ nó vào URL cơ sở mới:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.ornith.top/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You write dark fantasy for adult readers."},
        {"role": "user", "content": "Describe a siege from the point of view of a tired defender."},
    ],
    temperature=0.9,
)
print(resp.choices[0].message.content)

Và tương tự trong Node.js:

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.ornith.top/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three bleak opening lines for a noir story." }],
  stream: true,
});

for await (const chunk of resp) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Streaming hoạt động qua SSE với stream: true, gọi hàm và chế độ JSON được hỗ trợ, và cửa sổ ngữ cảnh là 100.000 token tính cả prompt và phản hồi cộng lại. Tài liệu API bao gồm từng tham số và các tiêu đề phản hồi, bao gồm X-Balance-USD, hiển thị tín dụng còn lại của bạn sau mỗi lần gọi.

Chi phí thực tế

Giá cả là trả theo mức sử dụng từ tín dụng trả trước: $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Không có đăng ký, các yêu cầu thất bại hoặc bị từ chối không được tính phí và tín dụng không bao giờ hết hạn.

Hãy thực hiện một lượt chat điển hình với một prompt 2.000 token (thông điệp hệ thống cộng với lịch sử) và một phản hồi 500 token:

• Input: 2.000 token với giá $0.15 cho mỗi 1M là $0.0003.
• Output: 500 tokens với giá $0.50 cho mỗi 1M là $0.00025.
• Tổng cộng mỗi lượt: $0.00055.

Một nghìn lượt như vậy tốn $0,55. Tín dụng dùng thử $0,50 do đó bao gồm khoảng 900 lượt có kích thước đó, điều này là đủ để đánh giá chất lượng viết trước khi bạn trả bất kỳ khoản tiền nào. Đối với một công việc nặng hơn, chẳng hạn 10M token đầu vào và 2M token đầu ra trong một tháng, hóa đơn là $1,50 cộng $1,00, tức là $2,50.

Khi bạn nạp tiền, bất kỳ số tiền nguyên nào từ $20 đến $500 đều hoạt động, với tiền thưởng 5% từ $50, 10% từ $100 và 15% từ $200. Bạn có thể thanh toán bằng thẻ (Visa, Mastercard, Apple Pay, Google Pay) hoặc bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Xem trang giá cả để biết bảng đầy đủ.

Thử nghiệm và lựa chọn giữa các tùy chọn

Người dùng mới có thể nhận $0.50 tín dụng dùng thử chỉ với một cú nhấp chuột trên trang khóa API sau khi đăng ký bằng Google hoặc bằng email và mật khẩu. Nó không cần thẻ, mỗi người một lần và hợp lệ trong 7 ngày. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút; khóa đầy đủ cho phép 8 đồng thời và 300 mỗi phút. Bạn có thể lấy khóa API trong một phút và chạy các ví dụ ở trên.

Một mô hình được lưu trữ không phải là cách duy nhất để có ít lời từ chối hơn. Bạn cũng có thể tải xuống một mô hình trọng số mở và chạy nó trên phần cứng của riêng mình, điều này mang lại cho bạn quyền kiểm soát đầy đủ và hoạt động ngoại tuyến, với giá là một GPU đủ mạnh và một số thiết lập. Hướng dẫn API LLM mã nguồn mở của chúng tôi so sánh các tùy chọn và chi phí. Lộ trình lưu trữ thắng thế khi bạn muốn không có phần cứng, một endpoint ổn định cho ứng dụng và hóa đơn có thể giảm xuống mức không khi không ai sử dụng nó.

Một điểm nữa dành cho những người xử lý văn bản nhạy cảm: các prompt gửi đến dịch vụ không được sử dụng để huấn luyện. Đọc trang quyền riêng tư để biết chi tiết.

Hướng dẫn khác

• LLM không kiểm duyệt tốt nhất để chạy cục bộ với Ollama
• API LLM không kiểm duyệt cho SillyTavern: Các bước thiết lập
• Hướng dẫn API LLM mã nguồn mở: Thiết lập, Chi phí và Các lựa chọn thay thế