LLM 셀프호스팅 비용 계산기

이 모델, 내 GPU/서버에서 돌아갈까? API보다 쌀까? — VRAM 적합성 · 토큰 속도 · 손익분기를 즉시 계산합니다. 키 없음 · 서버 없음 · 데이터 전송 없음.

모델 최신순

28B densedensectx 262,144Apache-2.0

양자화

하드웨어

컨텍스트 길이 8,192 tok

동시 요청 16

GPU 렌트 단가 override ($/hr, 비우면 기본값)

비교 API 프리셋

비교 API 단가 ($/1M tok)

결과

✅ NVIDIA H100 80GB SXM 1개에 들어감

VRAM

가중치 KV캐시 오버헤드 장비 VRAM 한계

가중치 13.9GB + KV 2.1GB (@8,192 tok) + 오버헤드 1.9GB = 17.9GB / 80GB

· 멀티모달(image-text)

추론 속도

120.6 tok/s

단일 스트림

서빙 처리량

1,350.6 tok/s

서빙 총량 (배치 16, VRAM 헤드룸 최대 29)

자체호스팅 vs API

자체호스팅 추정 단가 ($2.5/hr)$0.51 / 1M tok

선택한 API 단가$0.8 / 1M tok

API를 이기려면 필요한 처리량868.1 tok/s

이 이용률에서는 자체호스팅이 더 쌉니다. 다만 GPU를 계속 바쁘게 돌려야 유효합니다.

모든 결과는 메모리 대역폭 기반 근사 추정치입니다. 실제 수치는 커널·프레임워크·페이징·양자화 방식에 따라 달라집니다. 의사결정 전 실측 벤치마크를 권장합니다.

참고 · 이미지 생성 & 음성(STT/TTS) 최신 모델·API 가격

아래는 토큰 단위가 아니라서 위 토큰 계산기와 1:1로 비교되지 않는 항목입니다 — 이미지 생성 API, 그리고 음성(STT/TTS) 자체호스팅 모델과 API 가격을 최신 참고용으로 정리했습니다. 모두 공개 정보 기반 근사입니다.

이미지 생성 API

gpt-image-2OpenAI토큰 단위 · 텍스트 입력 $5 / 이미지 입력 $8 (표준). 이미지당 단가는 OpenAI 계산기 참고

$30 /1M img-out tok

gpt-image-1-miniOpenAI저가형 · 이미지 입력 $2.50 / 텍스트 입력 $2

$8 /1M img-out tok

grok-imagine-imagexAI1K/2K 출력 · 입력 $0.002/img

$0.02 /이미지

음성 STT/TTS — 자체호스팅 모델

Whisper large-v3STT1.55B · MIT · 인코더-디코더 · 100+ 언어 · 정확도 기준선

~3.1GB

Whisper large-v3-turboSTT809M · MIT · 디코더 프루닝 · 훨씬 빠름

~1.6GB

Parakeet TDT 0.6B v3STT600M · CC-BY-4.0 · FastConformer · 다국어(EU) · 타임스탬프

~1.2GB

Canary-1B v2STT978M · CC-BY-4.0 · 25개 EU 언어 · ASR+번역

~2GB

Qwen3-ASR-1.7BSTT1.7B · Apache-2.0 · 52개 언어 · 스트리밍+오프라인 통합

~3.4GB

Moonshine baseSTT61M · MIT · 엣지용 초경량 · 영어

~0.2GB

VoxCPM2TTS2B · Apache-2.0 · 토크나이저-프리 확산 · 30개 언어 · 48kHz · 클로닝

~4GB

Qwen3-TTSTTS1.7B · Apache-2.0 · 3초 클로닝 · 보이스 디자인 · 10개 언어

~3.4GB

Kokoro-82MTTS82M · Apache-2.0 · 초경량·초고속 · 엣지 인기

~0.2GB

ChatterboxTTS500M · MIT · 23+ 언어 · 제로샷 클로닝 · 감정 조절

~1GB

Orpheus 3BTTS3B · Apache-2.0 · Llama 기반 speech-LLM · ~200ms 스트리밍

~6GB

F5-TTSTTS~335M · CC-BY-NC-4.0 · 플로우매칭 DiT · 제로샷 클로닝 · 비상업 라이선스

~0.7GB

음성 STT/TTS — API 가격

gpt-4o-transcribeSTTOpenAI · 입력/출력

$2.50 / $10 /1M 오디오 tok

whisper-1STTOpenAI

$0.006 /분

Deepgram Nova-3STTDeepgram · 스트리밍

$0.0077 /분

AssemblyAI Universal-2STTAssemblyAI

$0.15 /시간

ElevenLabs ScribeSTTElevenLabs

$0.22 /시간

Google STT StandardSTTGoogle

$0.016 /분

gpt-4o-mini-ttsTTSOpenAI · 텍스트 입력 / 오디오 출력

$0.60 / $12 /1M tok

ElevenLabs FlashTTSElevenLabs

$50 /1M자

ElevenLabs Multilingual v3TTSElevenLabs

$100 /1M자

Grok Voice (xAI)TTSxAI · STT $0.10/시간 · S2S $0.05/분

$15 /1M자

Cartesia SonicTTSCartesia · 크레딧 기반 환산 [추정]

~$0.038 /분