No Filter: 무검열 LLM API 비용 및 트레이드오프 분석

uncensored 추론의 비용

필터 없는 접근 방식은 월 기본 요금을 제거하고 순수 토큰 경제로 대체합니다. 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50을 정확히 지불합니다. 오류와 거부는 무료이므로 테스트 단계에서 예산이 안정화됩니다.

선불 크레딧은 만료되지 않습니다. 이 구조는 구독 갱신이나 미사용 할당량에 대한 걱정 없이 대량의 텍스트를 생성하는 다량 사용자들에게 유리합니다.

토큰 효율성 vs 모델 크기

무차별 모델은 긴 대화에서 일관성을 유지하기 위해 종종 더 큰 컨텍스트 윈도우가 필요합니다. 당사 API는 프롬프트와 completion을 합산하여 100,000개의 토큰 컨텍스트 윈도우를 지원합니다.

• 요청당 최대 출력은 16,000 토큰입니다.
• 미설정 시 기본 최대 출력은 2,048 토큰입니다.

효율성은 무검열 모델이 더 장황한 응답을 생성할 수 있기 때문에 중요합니다. temperature와 top_p와 같은 매개변수를 통해 창의성과 토큰 소비 사이의 균형을 조절하여 이를 제어할 수 있습니다.

Latency and concurrency trade-offs

Raw inference speed depends on server load and request complexity. You can run 8 requests simultaneously per key with a limit of 300 requests per minute.

버스트 처리는 이러한 제한 내에서 가능합니다. 동시성 한도를 초과하면 요청이 즉시 실패하기보다는 큐에 대기됩니다. 이는 일관된 응답 시간이 필요한 NSFW 채팅봇 애플리케이션에 안정적인 처리량을 보장합니다.

Uncensored 모델의 데이터 프라이버시

개인정보 보호는 명확합니다: 귀하의 데이터로 학습하지 않습니다. 프롬프트는 귀하의 계정에 비공개로 유지됩니다.

• 가입에는 이메일 주소만 필요합니다.
• 전화번호 인증이 필요하지 않습니다.
• Google 또는 이메일/비밀번호로 로그인할 수 있습니다.

이러한 최소한의 데이터 수집은 필터 없음 철학과 일치합니다. 성인 소설이든 기술 연구든 콘텐츠는 당신의 것입니다.

NSFW 콘텐츠 스트리밍 성능

Server-Sent Events(SSE)를 통한 스트리밍은 실시간으로 토큰을 전달합니다. 이는 사용자 경험이 즉각적인 피드백에 의존하는 NSFW 챗봇에 중요합니다.

토큰 사용량 데이터는 마지막 청크에 포함됩니다. 전체 응답이 완료될 때까지 기다리지 않고도 소비를 정확하게 추적할 수 있습니다. 이러한 세분화된 데이터는 선불 크레딧을 효율적으로 관리하는 데 도움이 됩니다.

제한 없는 모드에서의 도구 호출

함수 호출은 uncensored 컨텍스트 내에서 원활하게 작동합니다. 도구를 정의하고 tool_choice를 지정하여 모델의 동작을 안내할 수 있습니다.

JSON 모드는 response_format json_object를 통해 제공됩니다. 이는 창의적이거나 논쟁적인 주제에서도 구조화된 출력을 보장합니다. 애플리케이션 로직에서 결과 파싱을 단순화합니다.

속도 제한 및 버스트 처리

レート制限は乱用を防ぎながら、バーストトラフィックも許可します。各キーは8つの同時リクエストと1分あたり300リクエストをサポートします。

요청 본문 크기는 8 MB로 제한됩니다. 이는 긴 프롬프트와 큰 도구 정의를 수용합니다. 더 많은 동시성이 필요하면 이전 키를 대체하는 새 키를 생성할 수 있습니다.

왜 선불이 다량 사용자들에게 구독보다 나은가

선불 크레딧은 구독이 제공하지 못하는 유연성을 제공합니다. 암호화폐로만 충전합니다: TRC20의 USDT 또는 Base의 USDC.

• 최소 충전은 $20이며, 최대 $500입니다.
• 보너스 크레딧은 +5%에서 +15% 범위입니다.
• 크레딧은 만료되지 않습니다.

이 모델은 사용하지 않은 용량에 대한 과금 위험을 제거합니다. 사용한 만큼만 지출하므로 변동성이 큰 워크로드에 이상적입니다.