AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

2023.04.26
ニュースAI
この記事をシェア!
twitter facebook line B!
twitter facebook line B!

この記事の3行まとめ

  • NVIDIA、『NeMo Guardrails』をオープンソースとして提供
  • 大規模言語モデル(LLM)を搭載したアプリを支援するソフトウェア
  • LLM搭載アプリの開発者が、3種の境界(ガードレール)を設定できる

NVIDIAは、大規模言語モデル(LLM)を搭載したアプリを支援する『NeMo Guardrails』を、オープンソースとして提供していることを発表しました。

『NeMo Guardrails』は、すべてのLLMで動作できるようNVIDIAが設計したソフトウェア。これにより、LLMで構築されたアプリを、安全およびセキュリティ要件に沿った形で維持できるようになると同社は発表しています。

安全性を確保するため、『NeMo Guardrails』には、3種類の境界(ガードレール)を開発者が設定できます。

話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。

安全性ガードレール
アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。

セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。

(NVIDIAのブログより引用)

『NeMo Guardrails』は、AIチャットボットのフレームワーク「NVIDIA NeMoフレームワーク」に組み込まれているほか、GitHubでApache License 2.0ライセンスにて無料で提供されています。

『NeMo Guardrails』の詳細はこちら、導入方法は技術ブログをご確認ください。

NVIDIA のオープンソース ソフトウェアが、開発者による AI チャットボットへのガードレール追加を支援『NeMo Guardrails』GitHub

関連記事

カプコン製『EXOPRIMAL』では収録音声とAI合成音声をハイブリットに活用。仕様変更とイテレーションに強いワークフローと、膨大な音声の動的ミキシング手法を徹底解説【CEDEC2023】
2023.11.30
Wonder Studio、「Maya」「Blender」向けの新たなアドオンを導入。3Dモデルデータの互換性をローカル環境で検証
2023.11.17
Qualcomm、生成AIの実行速度を大きく向上させるノートPC向けチップセット「Snapdragon X Elite」、モバイル向けチップセット「Snapdragon 8 Gen 3」を発表
2023.11.03
NVIDIA、大規模言語モデルの性能を最大4倍高速化する「TensorRT-LLM」をオープンソースでリリース。「Stable Diffusion」用Webアプリに使える拡張機能も併せて公開
2023.10.30
AIは怖くない。機械学習のイロハから、ゲームで利用するためのアプローチまでを学ぶ【CEDEC2023】
2023.10.27
NVIDIA、AIで動画をアップスケールする「RTX Video Super Resolution」がバージョン1.5に。RTX 20シリーズのGPUでも利用可能
2023.10.23

注目記事ランキング

2023.11.26 - 2023.12.03
1
【2022年5月版】今から始めるフォートナイトの「クリエイティブ」モードープレイ開始から基本的な操作方法まで解説
2
『フォートナイト』で動く本格的なゲームが作れるツール「UEFN」とは?従来のクリエイティブモードから進化したポイントを一挙紹介!
3
フォートナイト クリエイティブとUEFNで使える仕掛け一覧
4
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.1「アイテム系」
5
【CHALLENGE1】「クリエイター ポータル」を使って、UEFNで作成した島を世界中に公開する
6
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.5「島の設定」
7
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.4「ゲームシステム系」
8
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.10「UI系」Part1
9
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.2「ユーティリティ系」
10
【STEP2】UEFNの基本的な使い方を覚えよう
11
フォートナイトとUEFNがv26.30にアップデート。ロビー画面が一新され、クリエイターが島ごとにロビー背景を自由にカスタムできるように
12
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.7「NPC系」Part1
13
フォートナイトとUEFNがv27.10にアップデート。プレイヤーに与える武器のマガジン内に入っている初期弾薬量を設定するオプションが追加
14
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.3「プレイヤー系」
15
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.10「UI系」Part2
16
【CHALLENGE2-1】フレンドと一緒にゲームを作ろう――UEFNプロジェクトをチームメンバーとリアルタイムで共同編集する
17
日産自動車、UEFNで作られたマップ『Electrify the World』を期間限定公開。EVコンセプトカーが登場する世界を楽しめる
18
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.6「チーム・対戦系」Part1
19
【CHALLENGE3】UEFNの機能「ランドスケープ」を使ってオリジナルの地形を作る
20
『フォートナイト』で建築ビジュアライゼーション!?UEFNでオリジナルの世界観をどう作り上げたか、その手法を解説【UNREAL FEST 2023 TOKYO】
21
【STEP4-2】リスポーンとチェックポイントの仕組みを作る
22
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.7「NPC系」Part2
23
まるで『マイクラ』?ボクセル地形を生み出す無料アセット「VoxelPlugin Free」で”地形を掘ったり積み重ねたり”して遊んでみよう
24
フォートナイト上にオリジナルゲームを開発・公開できるPC専用エディタ『Unreal Editor For Fortnite(UEFN)』、ついにリリース!
25
【フォートナイト クリエイティブ】ドリフトボードで駆け巡る!タイマー付きのレースゲームを作ってみよう
26
【STEP3】オリジナルのアスレチックコースを作ろう
27
「UEFN」って実際どうなの? 編集部が3時間で「みんなで遊べるアクションゲーム(?)」を作ってみた
28
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.8「ゾーン系」
29
フォートナイト クリエイティブとUEFNで使える仕掛け一覧 Vol.9「建築物系」Part1
30
フォートナイトとUEFNがv27.00にアップデート。インタラクティブミュージックも実装できる音楽制作ツールセット「Patchwork」が導入された
VIEW MORE

イベントカレンダー

VIEW MORE

今日の用語

リグ(Rig)
リグ 3Dモデルを動かす場合に、すべてのボーンを編集するのではなく、少ない編集箇所で直感的に動作などを付けるために作られたコントローラーやコントロールする仕組み。 またスケルトン自身をリグと呼ぶ場合もある。
VIEW MORE

Twitterで最新情報を
チェック!