기업용 로컬 도면 AI에 필요한 GPU와 서버 구성 — 20명 이용 기준의 참고 비용

この文書の適用条件

そのまま実行できるコマンド

# GPU VRAM별 실행 가능 모델（양자화 조건은 FP16/INT4의 일반적인目安）

VRAM 24GB（RTX 5090 1장）
  FP16:   7B〜13B 양자화 불필요
  INT4:   14B〜30B 양자화로 적재 가능
  용도:   개발 PoC·개인 실험·간단한 도면 인식

VRAM 48GB（RTX 6000 Ada 1장）
  FP16:   13B〜30B 양자화 불필요
  INT4:   30B〜70B 양자화로 적재 가능
  용도:   개발 PoC 확장·간단한 CAD 도면 인식

VRAM 96GB（RTX PRO 6000 Blackwell 1장）
  FP16:   30B〜50B 양자화 불필요
  INT4:   50B〜110B 양자화로 적재 가능
  용도:   기업용 소규모（1〜5명）·Qwen3-VL-32B 1장

VRAM 192GB（B200 1장）
  FP16:   70B〜100B 양자화 불필요
  INT4:   100B〜400B+ 양자화로 적재 가능
  용도:   대규모·복수 VLM 동시 실행·fine-tuning

중요: 모델 크기는 VRAM 요건의 절반이 아닙니다.
예: Qwen3-VL-32B는 FP16에서 약 64GB 필요（32B 파라미터 × 2bytes）.
양자화（INT4）로 약 16GB로 축소 가능하지만, 정밀도와 속도의 트레이드오프가 있습니다.

# 기업 20명에서의 GPU 수 산출식（예）

【조건 설정】
- 모델: Qwen3-VL-32B（FP16: 64GB VRAM）
- 동시 이용자: 20명
- 동시 요청: 최대 5병렬
- 1요청당 VRAM 사용량: 약 16GB（INT4 양자화 시）
- 응답 시간 목표: 30초 이내
- 1장 GPU VRAM: 96GB（RTX PRO 6000 Blackwell）

【계산】
1) 1장 GPU로 처리 가능한 동시 요청 수
   = 96GB / 16GB = 6병렬

2) 20명의 동시 요청을 처리하는 데 필요한 GPU 수
   = ceil(5 / 6) = 1장 ... 이론상 1장으로 가능

3) 실제로는 다음과 같은 여유를 가짐:
   - 사용자 증감 대응
   - 고장 시 백업 용량
   - 모델 업데이트 시 전환 시간
   → 결과: 2장 구성（레플리카 A / 레플리카 B）を 권장

【중요한 포인트】
「20명 = GPU 2장」이라고 반드시 같지는 않다.
실제 동시 요청 수·도면 페이지 수·해상도·모델 크기로 결과가 달라진다.
PoC로 실측하는 것이 유일한 확인 방법이다.

結果の読み方

こういう状況で使います

• 로컬 도면 AI를 구축하고 싶지만 GPU 선택 기준이 막연하다
• RTX 5090과 RTX PRO 6000 중 어느 것을 선택해야 할지 고민된다
• Mac M4와 NVIDIA GPU 중 어느 것이 도면 AI에 적합한지 알고 싶다
• 20명 규모의 도면 AI에 몇 개의 GPU가 필요한지 모르겠다
• B200이 정말로 필요한지 판단할 수 없다
• 기업 도면 AI 구축 비용의目安을 알고 싶다
• VLM과 CAD Engine의 역할 분담이 막막하다

考えられる原因（可能性の高い順）

1. 01

   GPU 선택이「가격순」으로 이루어지고 있다

   가장 강력한 GPU를 선택하면 된다는 생각은 올바른 사이징을 방해합니다. 필요한 VRAM 용량은 모델 크기·양자화율·동시 요청 수로 결정되므로, 가장 효과적인 GPU는 이것들에 따라 다릅니다.

2. 02

   「사용자 수 = GPU 장수」라는 잘못된 공식

   GPU 선택의 표준 지표는 사용자 수가 아니라 VRAM 용량과 모델 크기입니다. 20명 환경에서도 1요청당 처리량에 따라 1장으로 충분한 경우가 있습니다.

3. 03

   VLM과 CAD Engine의 역할 분담이 이해되지 않고 있다

   VLM은「무엇을 해야 하는지」를 판단하고, CAD Engine은「정확한 좌표와 형상으로 도면을 생성」합니다. VLM에 둘 다를 기대하면 좌표 정밀도 문제로 실패합니다.

4. 04

   B200이 필요 이상으로 권장되고 있다

   B200은 가장 고성능 GPU이지만, 20명 수준의 일반 기업 용도에서는 과잉입니다. RTX PRO 6000 × 2장으로 충분한 경우가 많으며 비용 대비 효과에서 뒤처집니다.

確認手順

1. 1

   현재 도면 처리의 작업량과 빈도를 파악한다

   参照のみ

   일일·월별 처리하는 도면 작업 수, 1작업당 페이지 수·해상도·포맷을 분석합니다. 이를 통해 필요한 VRAM과 처리 능력을 추정할 수 있습니다.

2. 2

   목표로 하는 모델을 선정한다

   参照のみ

   소규모 검증은 4B~8B급 VLM, 개발 PoC는 8B~32B급 VLM,本番는 Qwen3-VL-32B 이상을 기준으로 합니다. 목표 모델이 결정되면 필요한 VRAM을 알 수 있습니다.

3. 3

   PoC 환경에서 실제 VRAM 소비량을 측정한다

   低

   선정한 모델로 실제 동시 요청을 보내 VRAM 사용량·응답 시간·용량을 확인합니다. 이론값이 아닌 실측值为 최종 판단 재료가 됩니다.

対応方法

バージョン・環境による違い

これで解決しない場合に確認すること

• 실제 도면 작업의 크기 분포를 확인한다

  도면 작업의 평균 페이지 수·해상도·포맷을 분석하여, 필요한 VRAM 용량의參考값을 구합니다.

• 동시 요청数の実測値を確認する

  현재 시스템（또는 유사 시스템）의 동시 요청数 피크를 측정하여, GPU 구성 산출의 입력으로 활용합니다.

• 모델 양자화의 정밀도 영향을 검증한다

  INT4 양자화 시 출력 정밀도가 업무 요건을 충족하는지 PoC로 확인합니다. 정밀도가 중요시되는 용도에서는 FP16 유지가 필요한 경우가 있습니다.

この文書の根拠と限界

よくある質問

この文書がカバーする質問

• 기업용 도면 AI 서버의 구성을 알고 싶다
• RTX 5090과 RTX PRO 6000 중 어느 것이 도면 AI에 적합한지
• 20명 규모의 AI 서버에 필요한 GPU 수는 몇 개인지
• Mac M4로 도면 AI를 구축할 수 있는지
• B200이 정말로 필요한지

リスク表示の意味

• 参照のみデータと設定を変更しません。
• 低影響は限定的ですが、権限と負荷の確認が必要です。
• 中性能・ロック・コストに影響する可能性があります。
• 高障害・データ損失・復旧作業が発生する可能性があります。
• 専門家レビュー必須本番適用前に別途レビューが必須です。

GIIPの対応範囲

지금까지의 내용은 특정 GPU 제품에 의존하지 않는 일반적인 사이징 이야기입니다. 그 위에 GIIP가 어디를 담당하는지를 말하면, GIIP는 GPU 서버의 설계·선정, 모델의 도입·최적화, AI Gateway에 의한 요청 분산, GPU 사용률·모델 상태·응답 품질의 감시, 장애 대응, 모델 버전 업데이트, 비용 최적화, 용량 증설 판단 등 운용 층 전체를 커버하고 있습니다. GPU 자체의 구매나 설치는 고객의 담당이지만, 그 전후의 소프트웨어 층·운용 설계는 GIIP가 지원할 수 있습니다.

関連サービス

• GIIP AIインフラ構築支援
• GPUサーバー設計・導入支援
• AIモデル導入・最適化