「NVIDIA H100 Tensor Core GPU」が搭載されたVM、「Microsoft Azure ND H100 v5 VM」の一般提供が開始。生成AIアプリケーションのさらなる最適化へ

2023.08.16
ニュース
この記事をシェア!
Twitter Facebook LINE B!
Twitter Facebook LINE B!

この記事の3行まとめ

  • 「Microsoft Azure ND H100 v5 VM」の一般提供が開始に
  • 生成AI向けに設計された「NVIDIA H100 Tensor Core GPU」が搭載
  • LLMの推論で、旧世代のインスタンスと比較して最大2倍のスピードアップを達成

生成AIやハイパフォーマンス・コンピューティング(HPC)向けに設計されたNVIDIAの第9世代データセンターGPUである「NVIDIA H100 Tensor Core GPU」が搭載されたMicrosoft Azureの仮想マシン(Virtual Machine、以下VM)、「Microsoft Azure ND H100 v5 VM」の一般提供が2023年8月7日に開始されました。

「Microsoft Azure ND H100 v5 VM」には、NVIDIA H100 Tensor Core GPUNVIDIA Quantum-2 InfiniBandネットワーキングが使用されており、生成AIのトレーニングやデプロイなどの活用が想定されております。なお、「Microsoft Azure ND H100 v5 VM」の提供開始時点では米国東部および米国中南部のAzureリージョンで利用可能です。

NVIDIA H100 Tensor Core GPU(H100)とは、生成AIやハイパフォーマンス・コンピューティング(HPC)向けに設計されたNVIDIAの第9世代データセンターGPUです。
H100は前世代のNVIDIA A100 Tensor コア GPU(A100)よりもStreaming Multiprocessor(SM)の性能・効率を向上させています。また、H100はTransformer Engineを内蔵したNVIDIA Hopper GPU コンピューティング アーキテクチャをベースとしており、A100と比較して、LLM(Large Language Models、大規模言語モデル)のAIトレーニングを最大9倍、AI推論を最大30倍もの速さで実行します。さらにGPUが900GB/秒で相互に通信できる最新のNVLinkテクノロジーなども導入されています。

「Microsoft Azure ND H100 v5 VM」は1つのVMと8つのNVIDIA H100 Tensor Core GPUを最小構成として、最大数千ものGPUを拡張させることができます。

GPUだけでなく、ネットワークとして3,200Gbpsのクロスノード帯域幅を持つNVIDIA Quantum-2 CX7 InfiniBandを搭載することで、大規模なGPU間のシームレスなパフォーマンスが保証され、世界的にトップクラスの性能を誇るスーパーコンピュータの能力に匹敵するスペックになるとNVIDIAのブログで述べられています。

「Microsoft Azure ND H100 v5 VM」は、BLOOM 175BモデルのようなLLMの推論において、旧世代のインスタンスと比較して最大2倍のスピードアップを達成し、AIアプリケーションをさらに最適化できるとうたっています。

「Microsoft Azure ND H100 v5 VM」の詳細については、Microsoft Azureに関するドキュメントをご覧ください。

NVIDIA H100 Tensor Core GPU Used on New Microsoft Azure Virtual Machine Series Now Generally Available | NVIDIA BlogND H100 v5 シリーズ - Azure Virtual Machines | Microsoft Learn

関連記事

3Dモデルの軽量化ノウハウ集をCOYOTE 3DCG STUDIOが公開。リダクションに役立つMayaの機能一覧も紹介
2025.04.01
Microsoft、オープンソースのWebレンダリングエンジン「Babylon.js」を「8.0」にアップデート。ノードベースでレンダリングパイプラインを構築できる機能がアルファ版として導入
2025.04.01
Razer、UEやUnityに対応したゲーム開発SDK「WYVRN」を発表。QAを効率化するAIツールやハプティクス技術などを統合
2025.04.01
「NVIDIA アプリ」がアップデート。AIによるアシスタント機能「Project G-Assist」で、ゲーム設定の調整やパフォーマンスの分析などをサポート
2025.04.01
音楽制作にまつわるテクノロジーの隆盛や、多彩な音楽表現について論じる書籍『音楽制作 – プログラミング・数理・アート –』、コロナ社より4/8(火)に発売
2025.04.01
地形生成アルゴリズムや疑似乱数など、ゲーム開発における数学の活用事例を解説した書籍『数学がゲームを動かす!』、日本評論社が2025年4月下旬に発売
2025.03.31

注目記事ランキング

2025.03.26 - 2025.04.02
VIEW MORE

連載・特集ピックアップ

イベントカレンダー

VIEW MORE

今日の用語

ローカル座標
ローカルザヒョウ 各オブジェクトの原点を基点とした座標系における、特定の一点を示した座標。
VIEW MORE

Xで最新情報をチェック!