GB300 Ultra Superchip Workstations
Workstations based on the NVIDIA GB300 Grace Blackwell Ultra Superchip.
| 画像 | 商品 | 価格 | 容量 |
|---|
モデル容量の理解
モデル容量とはAIモデルに含まれるパラメータ数を指します(例:70B=700億パラメータ)。大規模モデルは通常、より多くのメモリと計算能力を必要としますが、推論能力と出力品質の向上が期待できます。
精度(FP16/FP8/FP4)はモデル容量に必要なメモリ量に影響します:低精度フォーマットではFP16→FP8→FP4と段階的にメモリ要件が約半分になりますが、出力精度が若干低下します。
| モデルサイズ | 標準メモリ(FP16) | 標準メモリ(FP4) |
|---|---|---|
| ~70B | ~140GB | ~40GB |
| ~120B | ~240GB | ~65GB |
| ~405B | ~810GB | ~220GB |
| ~700B | ~1.4TB | ~380GB |