「NVIDIA H100 Tensor Core GPU」が搭載されたVM、「Microsoft Azure ND H100 v5 VM」の一般提供が開始。生成AIアプリケーションのさらなる最適化へ

2023.08.16
ニュース
この記事をシェア!
twitter facebook line B!
twitter facebook line B!

この記事の3行まとめ

  • 「Microsoft Azure ND H100 v5 VM」の一般提供が開始に
  • 生成AI向けに設計された「NVIDIA H100 Tensor Core GPU」が搭載
  • LLMの推論で、旧世代のインスタンスと比較して最大2倍のスピードアップを達成

生成AIやハイパフォーマンス・コンピューティング(HPC)向けに設計されたNVIDIAの第9世代データセンターGPUである「NVIDIA H100 Tensor Core GPU」が搭載されたMicrosoft Azureの仮想マシン(Virtual Machine、以下VM)、「Microsoft Azure ND H100 v5 VM」の一般提供が2023年8月7日に開始されました。

「Microsoft Azure ND H100 v5 VM」には、NVIDIA H100 Tensor Core GPUNVIDIA Quantum-2 InfiniBandネットワーキングが使用されており、生成AIのトレーニングやデプロイなどの活用が想定されております。なお、「Microsoft Azure ND H100 v5 VM」の提供開始時点では米国東部および米国中南部のAzureリージョンで利用可能です。

NVIDIA H100 Tensor Core GPU(H100)とは、生成AIやハイパフォーマンス・コンピューティング(HPC)向けに設計されたNVIDIAの第9世代データセンターGPUです。
H100は前世代のNVIDIA A100 Tensor コア GPU(A100)よりもStreaming Multiprocessor(SM)の性能・効率を向上させています。また、H100はTransformer Engineを内蔵したNVIDIA Hopper GPU コンピューティング アーキテクチャをベースとしており、A100と比較して、LLM(Large Language Models、大規模言語モデル)のAIトレーニングを最大9倍、AI推論を最大30倍もの速さで実行します。さらにGPUが900GB/秒で相互に通信できる最新のNVLinkテクノロジーなども導入されています。

「Microsoft Azure ND H100 v5 VM」は1つのVMと8つのNVIDIA H100 Tensor Core GPUを最小構成として、最大数千ものGPUを拡張させることができます。

GPUだけでなく、ネットワークとして3,200Gbpsのクロスノード帯域幅を持つNVIDIA Quantum-2 CX7 InfiniBandを搭載することで、大規模なGPU間のシームレスなパフォーマンスが保証され、世界的にトップクラスの性能を誇るスーパーコンピュータの能力に匹敵するスペックになるとNVIDIAのブログで述べられています。

「Microsoft Azure ND H100 v5 VM」は、BLOOM 175BモデルのようなLLMの推論において、旧世代のインスタンスと比較して最大2倍のスピードアップを達成し、AIアプリケーションをさらに最適化できるとうたっています。

「Microsoft Azure ND H100 v5 VM」の詳細については、Microsoft Azureに関するドキュメントをご覧ください。

NVIDIA H100 Tensor Core GPU Used on New Microsoft Azure Virtual Machine Series Now Generally Available | NVIDIA BlogND H100 v5 シリーズ - Azure Virtual Machines | Microsoft Learn

関連記事

Nintendo SwitchでRPG制作!『RPG MAKER WITH』は作ったマップや武器を他の人と「シェア」できる
2024.04.12
「3ds Max 2025」の新機能や更新を紹介する動画がYouTubeで公開。カラー管理にOCIO追加、Retopology Toolの処理速度アップなど
2024.04.12
参加費無料、ボドゲでゼロからゲーム制作体験ができる!5月25日開催『2時間でアナログゲームを完成させる!?初心者歓迎ワークショップ』、事前申込受付中!【ゲームメーカーズ スクランブル2024】
2024.04.12
参加費無料、未経験でも簡単な3Dアクションゲームが作れる!5月25日開催『初心者歓迎!UE5&Blenderハンズオン』、事前申込受付中!【ゲームメーカーズ スクランブル2024】
2024.04.12
『グランブルーファンタジー』の、100万行を超える大規模なシステム再構築ノウハウを補足解説。「Developers Summit 2024」で行われた講演のフォローアップ記事をサイゲームスが公開
2024.04.11
「ZBrush 2023」から「ZBrush 2024」までの新要素を解説する公式動画が公開。「Anchorブラシ」や「スライムブリッジ」などの新機能をおさらい
2024.04.11

注目記事ランキング

2024.04.08 - 2024.04.15
1
フォートナイト クリエイティブとUEFNで使える仕掛け一覧
2
フォートナイトとUEFNがv29.20にアップデート。見下ろし視点でもプレイヤーキャラクターの向きを操作できるようになった
3
『フォートナイト』で動く本格的なゲームが作れるツール「UEFN」とは?従来のクリエイティブモードから進化したポイントを一挙紹介!
4
【2022年5月版】今から始めるフォートナイトの「クリエイティブ」モードープレイ開始から基本的な操作方法まで解説
5
【CHALLENGE1】「クリエイター ポータル」を使って、UEFNで作成した島を世界中に公開する
6
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.1「アイテム系」
7
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.5「島の設定」
8
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.7「NPC系」Part1
9
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.7「NPC系」Part2
10
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.2「ユーティリティ系」
11
【CHALLENGE2-1】フレンドと一緒にゲームを作ろう――UEFNプロジェクトをチームメンバーとリアルタイムで共同編集する
12
『フォートナイト』で建築ビジュアライゼーション!?UEFNでオリジナルの世界観をどう作り上げたか、その手法を解説【UNREAL FEST 2023 TOKYO】
13
【STEP2】UEFNの基本的な使い方を覚えよう
14
【CHALLENGE3】UEFNの機能「ランドスケープ」を使ってオリジナルの地形を作る
15
UEFNで使えるプログラミング言語「Verse」のノウハウが集結。『UEFN.Tokyo 勉強会 03 Verse Night』レポート
16
まるで『マイクラ』?ボクセル地形を生み出す無料アセット「VoxelPlugin Free」で”地形を掘ったり積み重ねたり”して遊んでみよう
17
フルカラー書籍「UEFN(Unreal Editor For Fortnite)でゲームづくりを始めよう!」、ついに本日発売!全国書店で好評発売中!
18
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.6「チーム・対戦系」Part1
19
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.4「ゲームシステム系」
20
フォートナイトとUEFNがv29.10にアップデート。プレイヤーのジャンプや射撃などの入力を無効化するオプションが追加
21
【STEP4-1】コース外に出たらデスする仕組みを作る
22
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.3「プレイヤー系」
23
「UEFN」って実際どうなの? 編集部が3時間で「みんなで遊べるアクションゲーム(?)」を作ってみた
24
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.10「UI系」Part1
25
【STEP3】オリジナルのアスレチックコースを作ろう
26
【STEP4-2】リスポーンとチェックポイントの仕組みを作る
27
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.8「ゾーン系」
28
【STEP5-1】スタート時のカウントダウンを作る
29
【STEP6-1】「オリジナルキャラクターを登場させよう」――Fabでアセットをダウンロードしよう
30
【STEP1】「UEFN」を入手しよう
VIEW MORE

イベントカレンダー

VIEW MORE

今日の用語

レベル(Level)
レベル
  1. ゲーム開発において、位置情報を持つオブジェクトが配置されている地形。
  2. RPGなどのゲームにおいて、キャラクターの成長度合いを示す数値。レベルアップなど。
VIEW MORE

Twitterで最新情報を
チェック!