LLM セルフホスティング費用計算機

このモデル、私のGPU/サーバーで動く? APIより安い? — VRAM適合性・トークン速度・セルフホストvs APIの損益分岐を即座に試算。キー不要・サーバー不要・データはブラウザ外に出ません。

モデル新しい順

28B densedensectx 262,144Apache-2.0

量子化

ハードウェア

コンテキスト長 8,192 tok

同時リクエスト 16

GPUレンタル単価の上書き ($/hr, 空欄=デフォルト)

比較APIプリセット

比較API単価 ($/1M tok)

結果

✅ NVIDIA H100 80GB SXM 1台に収まる

VRAM

重み KVキャッシュオーバーヘッドデバイスVRAM上限

重み 13.9GB + KV 2.1GB (@8,192 tok) + オーバーヘッド 1.9GB = 17.9GB / 80GB

· 멀티모달(image-text)

推論速度

120.6 tok/s

シングルストリーム

サービングスループット

1,350.6 tok/s

サービング総量 (バッチ 16, VRAM余裕最大 29)

セルフホスト vs API

セルフホスト推定単価 ($2.5/hr)$0.51 / 1M tok

選択したAPI単価$0.8 / 1M tok

APIに勝つために必要なスループット868.1 tok/s

この稼働率ではセルフホストの方が安いです。ただしGPUを常に稼働させ続ける場合のみ有効です。

すべての結果はメモリ帯域幅ベースの近似値です。実際の数値はカーネル・フレームワーク・ページング・量子化方式により変わります。意思決定の前に実機ベンチマークを推奨します。

参考 · 画像生成 & 音声(STT/TTS) の最新モデル・API価格

以下はトークン課金ではないため、上のトークン計算機とは1:1で比較できません — 画像生成API、および音声(STT/TTS)のセルフホストモデルとAPI価格を参考用にまとめました。すべて公開情報に基づく近似です。

画像生成API

gpt-image-2OpenAI토큰 단위 · 텍스트 입력 $5 / 이미지 입력 $8 (표준). 이미지당 단가는 OpenAI 계산기 참고

$30 /1M img-out tok

gpt-image-1-miniOpenAI저가형 · 이미지 입력 $2.50 / 텍스트 입력 $2

$8 /1M img-out tok

grok-imagine-imagexAI1K/2K 출력 · 입력 $0.002/img

$0.02 /이미지

音声 STT/TTS — セルフホストモデル

Whisper large-v3STT1.55B · MIT · 인코더-디코더 · 100+ 언어 · 정확도 기준선

~3.1GB

Whisper large-v3-turboSTT809M · MIT · 디코더 프루닝 · 훨씬 빠름

~1.6GB

Parakeet TDT 0.6B v3STT600M · CC-BY-4.0 · FastConformer · 다국어(EU) · 타임스탬프

~1.2GB

Canary-1B v2STT978M · CC-BY-4.0 · 25개 EU 언어 · ASR+번역

~2GB

Qwen3-ASR-1.7BSTT1.7B · Apache-2.0 · 52개 언어 · 스트리밍+오프라인 통합

~3.4GB

Moonshine baseSTT61M · MIT · 엣지용 초경량 · 영어

~0.2GB

VoxCPM2TTS2B · Apache-2.0 · 토크나이저-프리 확산 · 30개 언어 · 48kHz · 클로닝

~4GB

Qwen3-TTSTTS1.7B · Apache-2.0 · 3초 클로닝 · 보이스 디자인 · 10개 언어

~3.4GB

Kokoro-82MTTS82M · Apache-2.0 · 초경량·초고속 · 엣지 인기

~0.2GB

ChatterboxTTS500M · MIT · 23+ 언어 · 제로샷 클로닝 · 감정 조절

~1GB

Orpheus 3BTTS3B · Apache-2.0 · Llama 기반 speech-LLM · ~200ms 스트리밍

~6GB

F5-TTSTTS~335M · CC-BY-NC-4.0 · 플로우매칭 DiT · 제로샷 클로닝 · 비상업 라이선스

~0.7GB

音声 STT/TTS — API価格

gpt-4o-transcribeSTTOpenAI · 입력/출력

$2.50 / $10 /1M 오디오 tok

whisper-1STTOpenAI

$0.006 /분

Deepgram Nova-3STTDeepgram · 스트리밍

$0.0077 /분

AssemblyAI Universal-2STTAssemblyAI

$0.15 /시간

ElevenLabs ScribeSTTElevenLabs

$0.22 /시간

Google STT StandardSTTGoogle

$0.016 /분

gpt-4o-mini-ttsTTSOpenAI · 텍스트 입력 / 오디오 출력

$0.60 / $12 /1M tok

ElevenLabs FlashTTSElevenLabs

$50 /1M자

ElevenLabs Multilingual v3TTSElevenLabs

$100 /1M자

Grok Voice (xAI)TTSxAI · STT $0.10/시간 · S2S $0.05/분

$15 /1M자

Cartesia SonicTTSCartesia · 크레딧 기반 환산 [추정]

~$0.038 /분