NVIDIA、大規模言語モデルや生成AIの時代を見据えた「GH200 Grace Hopper Superchip」発表。HBM3e メモリを搭載、NVIDIA MGXサーバ仕様とも完全互換

2023年8月8日（火）、NVIDIAは高速かつ広帯域幅を持つ「HBM3e」メモリを搭載した「GH200 Grace Hopper Superchip」を発表しました。本発表は米国ロサンゼルスで開催された「SEAGRAPH 2023」基調講演内で同社CEO ジェンスン・フアン氏が明らかにしたもので、2024年の第2四半期に提供が開始される見込みとなります。

Grace Hopper Superchipは、Grace CPUとHopper GPU両方のアーキテクチャを、超高速チップ間インターコネクトテクノロジである「NVLink」を介して統合した“スーパーチップ”。SEAGRAPHの発表で搭載が告知された「HBM3e」は現行メモリのHBM3と比較して約50%高速であり、メモリが逼迫し易い生成AI等に対して恩恵の大きいアップデートとなっています。

HBM3e搭載の次期モデルによる新プラットフォームでは合計10TB/秒の帯域幅を実現し、3倍高速なメモリ帯域幅でパフォーマンスを向上させながら、旧バージョンより3.5倍大きなモデルの実行が可能とのこと。また、GH200はCOMPUTEX TAIPEI 2023で発表された「NVIDIA MGX」サーバ仕様とも互換性がある旨が告知されています。

詳細なシステム仕様については、同社が2023年8月9日に発表したプレスリリースも併せてご確認ください。