SillyTavern용 무검열 LLM API: 설정 단계

시작하기 전에 필요한 항목

세 가지가 필요합니다: 실행 중인 SillyTavern 설치본, API 키, 엔드포인트 정보입니다. SillyTavern은 캐릭터 및 역할극 대화를 위한 자체 호스팅 채팅 프론트엔드이며, OpenAI 채팅 형식을 따르는 모든 서비스에 연결할 수 있습니다. 이 사이트는 합법적인 성인용 서비스(픽션, 역할극, 성인용 동반자 앱)를 제공합니다. 미성년자가 관련된 성적인 콘텐츠는 생성하지 않으며, 설정 변경으로도 이 점이 유지됩니다.

다음 값을 수집하세요:

• Base URL: https://api.ornith.top/v1
• 모델 ID: uncensored
• API 키: Google 또는 이메일과 비밀번호로 로그인한 후 API 키 페이지에서 생성합니다.

새 계정은 해당 페이지에서 클릭 한 번으로 무료 체험 크레딧 $0.50을 받을 수 있습니다. 카드 등록이 필요 없으며, 인원당 1회 한도이며 7일 동안 유효합니다. 이는 캐릭터 카드 테스트에 충분합니다. 일반적인 채팅 한 턴 비용은 1센트 미만이기 때문입니다(계산 내역은 아래에 있습니다).

먼저 curl로 키 테스트하기

SillyTavern을 조정하기 전에 터미널에서 요청을 하나 보내세요. 성공하면 이후 실패는 프론트엔드 설정 문제이며, 실패하면 키 또는 네트워크 문제입니다.

Copycurl https://api.ornith.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

choices 배열이 있는 JSON을 받아야 합니다. 응답 헤더도 확인하십시오: X-Balance-USD는 남은 크레딧을 표시하며, X-Request-Id는 지원팀에 문의할 때 인용해야 하는 값입니다. GET /v1/models로 모델을 나열할 수도 있습니다:

Copycurl https://api.ornith.top/v1/models \
  -H "Authorization: Bearer $API_KEY"

목록에는 SillyTavern에서 사용할 모델 ID가 표시되며, 이는 uncensored입니다.

SillyTavern 단계별 연결

1. SillyTavern을 열고 상단의 플러그 아이콘을 클릭하여 API Connections를 엽니다.
2. API 드롭다운에서 Chat Completion을 선택합니다.
3. Chat Completion Source 드롭다운에서 Custom (OpenAI-compatible)을 선택합니다.
4. Custom Endpoint (Base URL)에 https://api.ornith.top/v1을 입력합니다. /v1까지만 입력합니다. 클라이언트가 해당 경로를 자체적으로 추가하므로 /chat/completions은 추가하지 마세요.
5. API 키를 Custom API Key 필드에 붙여넣습니다.
6. Model ID에 uncensored를 입력합니다.
7. 연결을 누르세요. 모델 이름이 있는 녹색 상태는 핸드셰이크가 성공했음을 의미합니다.

메뉴 레이블은 SillyTavern 버전마다 약간씩 달라질 수 있으므로, 버전에서 이름이 다르면 동일한 개념을 찾아보십시오: 커스텀 OpenAI 호환 소스, 엔드포인트 필드, 키 필드 및 모델 필드입니다. 연결이 실패하면 curl 테스트를 반복하십시오. curl에서 인증 오류가 발생하면 키가 잘못되었음을 의미하며, curl 테스트가 성공하지만 연결이 실패하면 URL의 오타(예: 누락된 /v1 또는 끝에 붙은 경로)를 의미합니다.

연결된 후 캐릭터 카드를 열고 메시지를 보내세요. 응답이 보이면 통합이 작동하는 것입니다. 나머지는 조정 작업입니다.

역할극에 중요한 설정

컨텍스트 크기

이 모델은 프롬프트와 응답을 합쳐서 100,000개의 토큰 컨텍스트 창을 지원합니다. SillyTavern에서 컨텍스트 크기 슬라이더는 각 턴에 보내는 히스토리, 캐릭터 카드 및 lorebook 텍스트의 양을 제어합니다. 값이 클수록 캐릭터가 더 많은 것을 기억하지만, 각 턴마다 입력 토큰에 대해 지불하므로 요청 비용이 더 많이 듭니다. 좋은 시작점은 16,000에서 32,000 토큰 정도의 적절한 값이며, 채팅이 충분히 길어서 필요할 때만 높여야 합니다. 응답 길이 설정은 이 API에서 선택 사항인 max_tokens에 매핑됩니다. 짧은 응답을 원하면 값을 설정하십시오.

스트리밍

Chat Completion 설정에서 스트리밍을 활성화합니다. API는 stream: true로 SSE를 지원하므로 텍스트가 생성되는 대로 표시되며, 잘못된 응답이 생성되면 조기에 중단할 수 있습니다. 사용량은 스트림 끝에 보고됩니다.

샘플링

Temperature, top_p, stop 시퀀스, seed 및 frequency 및 presence 패널티는 모델에 전달됩니다. 창의적인 채팅의 경우, Temperature가 0.8에서 1.0 사이이고 top_p가 0.9 근처인 것이 일반적인 시작점입니다. 응답이 장황하거나 반복되면 Temperature를 약간 낮추고 작은 frequency 패널티를 추가하십시오. 각 설정의 효과를 확인할 수 있도록 한 번에 하나의 설정만 변경하십시오.

시스템 프롬프트 및 카드

이 모델은 콘텐츠 거부 없이 응답하도록 조정되었으므로, 장면의 품질은 프롬프트와 캐릭터 카드의 질에 달려 있습니다. 명확한 역할, 배경, 톤 및 몇 줄의 대화 예시는 샘플링 조정보다 더 큰 효과를 냅니다. 성인 대상 작문을 할 경우 배경에 나이가 명시되어 있는지 확인하세요: 모든 캐릭터는 성인이어야 합니다.

메시지별 비용 계산

가격은 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50이며, 선불 크레딧으로 구독 없이 제공됩니다. SillyTavern은 각 턴마다 카드와 히스토리를 다시 보내므로 입력이 대부분을 차지합니다.

채팅 턴에서 컨텍스트 6,000개의 토큰을 보내고 400개의 토큰을 받는다고 가정해 봅시다:

• 입력: 6,000개, 토큰 100만 개당 $0.15 기준 $0.0009.
• 출력: 400개, 토큰 100만 개당 $0.50 기준 $0.0002.
• 합계: 턴당 $0.0011.

200턴 세션 비용은 $0.22입니다. $0.50 무료 체험 크레딧으로는 약 450턴을 사용할 수 있습니다. 실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 크레딧을 추가할 때 $20부터 $500까지의 금액은 모두 사용 가능하며, $50 이상은 +5%, $100 이상은 +10%, $200 이상은 +15%의 보너스가 제공됩니다. 결제는 카드(Visa, Mastercard, Apple Pay, Google Pay) 또는 암호화폐(USDT(TRC20), USDC(Base))로 가능합니다. 크레딧은 만료되지 않습니다. 요금제 페이지에서 자세한 내용을 확인하세요.

일반적인 오류 해결

증상	잠재적 원인	해결 방법
연결이 즉시 실패함	잘못된 base URL 또는 키	https://api.ornith.top/v1을 사용하되 끝에 경로를 추가하지 마세요; curl 테스트를 반복하세요.
HTTP 429, 코드 rate_limited	분당 요청 수 초과	요청 속도를 줄이세요. 체험 키는 분당 60개, 전체 키는 분당 300개를 허용합니다
HTTP 429, 코드 concurrency	너무 많은 동시 요청	실행 중인 응답이 끝날 때까지 기다리세요. 무료 체험 키는 동시 2개, 일반 키는 동시 8개를 허용합니다.
HTTP 429, Retry-After: 5	일시적 과부하	5초 후 다시 시도
요청이 너무 큼	본문이 8 MB를 초과했습니다	컨텍스트 크기를 줄이거나 lorebook을 정리하십시오
컨텍스트가 너무 김	프롬프트와 응답이 100,000개의 토큰을 초과함	컨텍스트 크기 또는 응답 길이를 줄이세요

그룹 채팅이나 추가 백그라운드 호출을 실행하는 기능에서는 한 가지 주의할 점이 있습니다. 스트리밍 요청은 스트림이 종료될 때까지 동시 요청 슬롯을 점유합니다. 예를 들어 SillyTavern이 답변, 요약, 이미지 캡션 작업을 동시에 실행하면, 슬롯이 2개인 무료 체험 키는 세 번째 요청을 거부합니다. 전체 키는 8개의 슬롯을 허용합니다. 필요 없는 기능을 비활성화하거나 실행 시간을 간격으로 띄우세요.

모든 파라미터와 정확한 오류 형식에 대해서는 API 문서를 참조하세요.

더 많은 가이드

• 무검열 LLM: 의미 및 사용 방법
• Ollama로 로컬에서 실행할 수 있는 최고의 무검열 LLM
• 오픈 소스 LLM API 가이드: 설정, 비용 및 대안