NVIDIA DGX/HGXを、AIが24時間監視・運用する。
Linuxだけでは見えないGPU、ECC、XID、NVLink/NVSwitch、BMCの状態まで統合監視。GIIP AIが異常の影響範囲と原因を分析し、必要な対応を提案・記録・実行します。
DGX OS・Ubuntu・HGX・DCGM・Prometheus・Redfish/IPMI対応
DCGM・Prometheus・Redfishがサーバー状態を収集し、GIIP AIがログ・メトリクス・変更履歴を分析して、障害原因と対応方法を提案します。安全な定型作業はRunbookで実行し、GPU Reset、再起動、Firmware更新など高リスク作業は顧客承認後に実行します。
GPUサーバーは、通常のLinux監視だけでは運用できません。
CPUやメモリのグラフを見ていても、GPUの障害はわかりません。DGX・HGXにはOSの下の層に固有の障害様式があります。
OS監視ではGPU障害を把握できない
OSのCPU・Memory監視だけでは、ECC、XID、サーマルスロットリングといったGPU障害を把握できません。
XID・ECC・NVLink障害を判断できる担当者がいない
XIDコード、ECCの傾向、NVLink障害を読み解いて意味を判断できる担当者は多くありません。
Driver・CUDA・Toolkitの不整合リスク
Driver・CUDA・Container Toolkit・Fabric Managerがサポートされる組み合わせから外れ、静かにワークロードを壊します。
責任分界が不明確
DC・サーバーベンダー・NVIDIA・顧客の間で、どこまでが誰の担当かが不明確になりがちです。
統合監視、AIによる原因分析、そして承認制の実行。
DCGM・Prometheus・Redfishが状態を収集し、GIIP AIが原因と推奨対応に変換します。安全な作業は自動で実行し、高リスクな作業は承認を待ちます。
すべての層を一つのビューで
Linux、GPU、GPU障害、NVLink/NVSwitchのFabric、BMCを、四つのばらばらなツールではなく一つの統合ビューで見ます。
AIは単純なアラートではなく突き合わせる
GIIPはログ・メトリクス・変更履歴を組み合わせて原因を推定します。単一しきい値のアラートではありません。
承認制の実行
安全なRunbookは自動で実行し、GPU Reset・再起動・Firmware更新は承認後にのみ実行します。
記録と報告
すべての対応をIssueと月次報告に記録し、後から追跡できるようにします。
GIIPはDCGM・Prometheusを置き換えません
GIIPは既存の監視スタックを置き換えるのではなく、その上に統合ビューとAI分析、Issue管理、承認・実行・監査ログを重ねます。各コンポーネントの役割は次のとおりです。
| DCGM Exporter | GPUのメトリクスと障害情報（利用率・温度・ECC・XIDなど）を収集する。 |
| node_exporter | Linux側のCPU・メモリ・ディスク・ネットワークなどのメトリクスを収集する。 |
| Prometheus | 時系列メトリクスを蓄積し、アラートルールを評価する。 |
| Alertmanager | 発報したアラートをルーティング・重複排除・抑制する。 |
| Redfish | BMCの状態取得・制御の第一選択（標準API）。 |
| IPMI 2.0 | Redfishが使えない機器向けのフォールバック手段。 |
| Grafana | 運用担当者が深掘りするためのダッシュボード。 |
| GIIP | 上記を横断した統合ビュー、AIによる原因推定、Issue化、対応提案、承認、実行、監査ログを担う。 |
GIIPはDCGMやPrometheusの代替ではありません。既存の監視資産をそのまま活かし、その上に判断と運用の層を足す位置づけです。
監視対象
Linuxの標準監視だけでは見えないGPU・Fabric・BMCの層まで、次の範囲を統合して監視します。
Linux
- CPU
- Memory
- Filesystem
- NVMe
- Network
- Process
- Service
GPU（GPUごと）
- Utilization
- Memory
- Temperature
- Power
- Clock
- Throttle
GPU障害
- ECC
- XID
- PCIe Replay
- Retired Pages
- Row Remapping
Fabric
- NVLink
- NVSwitch
- Fabric Manager
BMC
- PSU
- Fan
- Temperature
- Voltage
- System Event Log
監視基盤
- Exporter停止
- Metric欠損
- Prometheus収集失敗
ソフトウェア互換性
- DGX OS
- Ubuntu
- Driver
- CUDA
- Container Toolkit
AI運用フロー
GIIP AIは単純なしきい値アラートではなく、複数のシグナル（ログ・メトリクス・変更履歴）を組み合わせて分析します。ただし全自動・無条件の自動復旧は行いません。
- 1
DCGM・Prometheus・Redfishから状態を収集する。
- 2
GIIPがログ・メトリクス・変更履歴を統合して分析する。
- 3
影響範囲・推定原因・推奨対応を提示する。
- 4
安全なRunbookは実行し、高リスク作業は承認を依頼する。
- 5
結果と再発防止策をIssue・月次報告へ記録する。
AIは複数のシグナルを突き合わせて原因を推定しますが、GPU Resetや再起動のような取り返しの難しい作業は、顧客の承認を経てから実行します。
推奨アーキテクチャ
既存機器の構成を尊重しつつ、監視と制御の経路を安全に敷きます。
DGX/HGX OS
node_exporter、DCGM Exporter、NVSM、Fabric Manager が稼働する。
BMC
Redfishを優先し、対応していない機器はIPMI 2.0でフォールバックする。
Central
Prometheus・Alertmanager・Grafana・GIIP を集約する。
Connection
Management VLAN → VPN または GIIP Connector → Central の経路で接続する。
BMCをインターネットへ直接公開することはしません。管理ネットワークとVPN／専用コネクタ経由でのみ到達します。
料金
基準単位は 1 DGX/HGX（8 GPU 物理ノード）です。ja／en ページでもKRW建てで参考表示します。実際の契約は日本国内はJPY建て、韓国はKRW建てで見積もり、自動為替換算はしません。
| プラン | 月額（税別） | 含まれる範囲 |
|---|---|---|
| DGX Monitoring | 400,000 KRW | 24×365の自動監視、通知、月次報告。 |
| DGX Standard | 800,000 KRW | 監視、OS・GPUソフトウェア管理、一次分析、NVIDIA・OEMへの問い合わせ。 |
| DGX Premium | 1,500,000 KRW | 緊急対応、CUDA・コンテナ管理、性能・障害分析、復旧支援。 |
| AI Platform Managed | 2,500,000 KRW~ | Kubernetes・Slurm・テナント・キュー・モデルランタイムの運用。 |
DGX Monitoring
400,000 KRW24×365の自動監視、通知、月次報告。
DGX Standard
800,000 KRW監視、OS・GPUソフトウェア管理、一次分析、NVIDIA・OEMへの問い合わせ。
DGX Premium
1,500,000 KRW緊急対応、CUDA・コンテナ管理、性能・障害分析、復旧支援。
AI Platform Managed
2,500,000 KRW~Kubernetes・Slurm・テナント・キュー・モデルランタイムの運用。
「24×365」は自動監視を指します。別途SLAがない限り、人による常時対応や復旧時間を保証するものではありません。
推奨する標準パッケージ
多くのお客様に最初にお勧めする構成です。
- 初期統合構築
- 1,500,000 KRW
- 月額運用
- 1,000,000 KRW / ノード
- 契約期間
- 12か月
- 税
- 別途
- 構成変更・技術支援
- 月あたり最大5時間
価格はKRW建てで、税別です。ノード数や作業量に応じて個別にお見積もりします。
含まれるもの
- インベントリ（構成の棚卸し）
- Health Check（初期健全性確認）
- Exporter・Prometheus・Alertmanager・Redfish・IPMI・GIIPの統合
- AIによる障害分析
- 承認済みのRemote Recovery（遠隔復旧）
- NVIDIA・OEM向けの診断資料の作成
- 月次報告
別途見積もりとなるもの
- ラック・電源・冷却・ネットワーク
- ハードウェアの購入
- NVIDIA License・Support
- 現地作業（オンサイト）
- 部品
- Backup Storage
- Kubernetes・Slurm・Run:ai の導入
- 顧客のModel・RAG・Inference アプリケーション
- 大規模なUpgrade・Migration
- Forensics（フォレンジック）
- 保証・SLA
- NVL72・マルチノード・マルチサイト・液冷（Liquid Cooling）
安全・承認・責任範囲
取り返しの難しい作業には、必ず顧客の承認を挟みます。
GIIPが自動で行うこと
- 状態の収集
- 異常の検知
- 分析
- 通知
- Issueの作成
- 承認済みRunbookの実行
- 報告
顧客の承認が必要なこと
- GPU Reset
- Power Cycle
- 再起動
- Driver・CUDA・Firmware の更新
- Jobの停止
- 権限・Firewall の変更
- 削除・取り消し不能な操作
DC・NVIDIA・OEMの担当範囲
- 電源
- 冷却
- ケーブリング
- オンサイト点検
- 部品交換
- 保証
- 有償サポート
GIIPは「NVIDIA公式パートナー」「NVIDIA認定サービス」等、確認されていない肩書きを名乗りません。
これで得られるもの
GPU・NVLink・BMC
Linuxを超えた統合ビュー
24×365
自動監視（SLAは別途）
承認制
高リスク作業は顧客承認後
監査ログ
すべての対応を記録・追跡
よくあるご質問
一般的なUbuntuサーバー運用と何が違いますか？
一般的なサーバー運用はOS（CPU・Memory・Disk）を見ます。本サービスはそこにGPU層を足します — DCGMメトリクス、ECC/XID障害、NVLink/NVSwitchのFabric、BMC、そしてGPUのシグナルが何を意味するかのAI分析です。
DGX以外のHGXやOEMのGPUサーバーにも対応しますか？
対応します。DGXを基準としつつ、HGXベースボードやUbuntuで動くOEMのGPUサーバーも、DCGM・node_exporter・RedfishまたはIPMIが使える限り対象です。
既存のPrometheus/Grafanaを再利用できますか？
できます。GIIPはそれらを置き換えず、上に統合ビュー、AI原因分析、承認、監査ログを重ねます。既存のPrometheus・Grafanaはそのままの役割で使います。
RedfishとIPMIはどう選びますか？
Redfishは標準APIのため第一選択です。IPMI 2.0はRedfishに対応していない機器向けのフォールバックです。BMCはインターネットへ直接公開しません。
GPU障害時に自動で再起動しますか？
しません。検知・分析・通知は自動ですが、再起動、GPU Reset、Power Cycleは顧客承認後にのみ実行します。無条件の自動復旧は行いません。
NVIDIA Support契約がない場合はどうなりますか？
監視・分析・復旧支援は行い、NVIDIAやOEMが求める診断資料も作成します。保証・有償サポート・NVIDIAのライセンスは引き続き顧客の契約です。
Kubernetes・Slurmはどこまで対応しますか？
基本プランはノード・GPU・BMCまでです。Kubernetes・Slurm・テナント/キュー・モデルランタイムの運用はAI Platform Managedプランとして別途お見積もりします。
DCの電力・冷却は誰の担当ですか？
電源・冷却・ケーブリング・オンサイト点検・部品交換はDC・NVIDIA・OEMの担当です。GIIPは監視・分析・承認済みの遠隔復旧を担います。
24時間の有人対応はありますか？
24×365は自動監視を指します。別途SLAがない限り、人による常時対応や復旧時間を保証するものではありません。必要な場合はSLAとして別途合意します。
複数Nodeの価格はどうなりますか？
基準単位は1 DGX/HGX（8 GPUノード）です。複数ノードはノード単位で見積もります。推奨する標準パッケージは初期統合構築1,500,000 KRW＋ノードあたり月1,000,000 KRW、契約期間12か月、税別です。
AIにGPUサーバーの監視・運用を任せましょう。
どのDGX/HGXを、どう配線して運用しているか教えてください。監視範囲、責任分界、ノード単位のお見積もりをお見せします。