AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

2023.04.26
ニュースAI
この記事をシェア!
Twitter Facebook LINE B!
Twitter Facebook LINE B!

この記事の3行まとめ

  • NVIDIA、『NeMo Guardrails』をオープンソースとして提供
  • 大規模言語モデル(LLM)を搭載したアプリを支援するソフトウェア
  • LLM搭載アプリの開発者が、3種の境界(ガードレール)を設定できる

NVIDIAは、大規模言語モデル(LLM)を搭載したアプリを支援する『NeMo Guardrails』を、オープンソースとして提供していることを発表しました。

『NeMo Guardrails』は、すべてのLLMで動作できるようNVIDIAが設計したソフトウェア。これにより、LLMで構築されたアプリを、安全およびセキュリティ要件に沿った形で維持できるようになると同社は発表しています。

安全性を確保するため、『NeMo Guardrails』には、3種類の境界(ガードレール)を開発者が設定できます。

話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。

安全性ガードレール
アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。

セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。

(NVIDIAのブログより引用)

『NeMo Guardrails』は、AIチャットボットのフレームワーク「NVIDIA NeMoフレームワーク」に組み込まれているほか、GitHubでApache License 2.0ライセンスにて無料で提供されています。

『NeMo Guardrails』の詳細はこちら、導入方法は技術ブログをご確認ください。

NVIDIA のオープンソース ソフトウェアが、開発者による AI チャットボットへのガードレール追加を支援『NeMo Guardrails』GitHub

関連記事

AIモデルの共通規格「MCP」を学べる書籍『やさしいMCP入門』、秀和システムが7/1(火)に発売
2025.06.26
NVIDIA、直近でアップデートしたAI関連技術のまとめを公開。UE公式の大型イベント「Unreal Fest Orlando 2025」にあわせて
2025.06.03
画像やテキストから3Dモデルを自動生成できるAIツール「Tripo Studio」、ベータ版が一般公開。公式Webサイトにて無償提供中
2025.06.02
UE向けゲーム開発支援AIツール「Aura」、早期アクセスが7/1に開始予定。6月開催の「Unreal Fest Orlando 2025」でツールが展示される
2025.05.28
「Unity 6.2 Beta」リリース。従来のAIツール「Unity Muse/Sentis」は廃止され、新機能「Unity AI」に置き換わる
2025.05.16
リギングを自動化できるAIツール「UniRig」がオープンソース化。人型キャラクターや動物など、幅広い3Dモデルでスケルトン生成・スキニングが可能
2025.04.22

注目記事ランキング

2025.06.26 - 2025.07.03
VIEW MORE

連載・特集ピックアップ

イベントカレンダー

VIEW MORE

今日の用語

リグ(Rig)
リグ 3Dモデルを動かす場合に、すべてのボーンを編集するのではなく、少ない編集箇所で直感的に動作などを付けるために作られたコントローラーやコントロールする仕組み。 またスケルトン自身をリグと呼ぶ場合もある。
VIEW MORE

Xで最新情報をチェック!