AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

2023.04.26
ニュースAI
この記事をシェア!
Twitter Facebook LINE B!
Twitter Facebook LINE B!

この記事の3行まとめ

  • NVIDIA、『NeMo Guardrails』をオープンソースとして提供
  • 大規模言語モデル(LLM)を搭載したアプリを支援するソフトウェア
  • LLM搭載アプリの開発者が、3種の境界(ガードレール)を設定できる

NVIDIAは、大規模言語モデル(LLM)を搭載したアプリを支援する『NeMo Guardrails』を、オープンソースとして提供していることを発表しました。

『NeMo Guardrails』は、すべてのLLMで動作できるようNVIDIAが設計したソフトウェア。これにより、LLMで構築されたアプリを、安全およびセキュリティ要件に沿った形で維持できるようになると同社は発表しています。

安全性を確保するため、『NeMo Guardrails』には、3種類の境界(ガードレール)を開発者が設定できます。

話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。

安全性ガードレール
アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。

セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。

(NVIDIAのブログより引用)

『NeMo Guardrails』は、AIチャットボットのフレームワーク「NVIDIA NeMoフレームワーク」に組み込まれているほか、GitHubでApache License 2.0ライセンスにて無料で提供されています。

『NeMo Guardrails』の詳細はこちら、導入方法は技術ブログをご確認ください。

NVIDIA のオープンソース ソフトウェアが、開発者による AI チャットボットへのガードレール追加を支援『NeMo Guardrails』GitHub

関連記事

AIエージェントの運用基盤を丸ごと自社環境に。Anthropicが「セルフホスト型Claude Managed Agents」をプライベートベータで提供開始
2026.11.13
Googleの新AIモデル「Gemini 4 Hydrogen」が提供開始。Gemini APIの無料枠でも使え、有料枠は入力100万トークンあたり1.50ドル
2026.11.13
Google、質問にYes/Noや選択肢で答える「Gemini Decisions API」をリリース。文章を生成せず、出力に対しては課金なし
2026.11.12
Googleの最上位AIモデル「Gemini 4 Carbon」が一般提供。マルチエージェント機能もAntigravityでプレビュー開始
2026.11.11
サイバーエージェント、Unity 6世代のパフォーマンスチューニングを全21章で解説する書籍『Unity パフォーマンスチューニング ティップス 2026』を無料公開
2026.11.11
実機の描画不具合をリビルドなしで検証し、1時間弱で回避策を発見。「RenderDoc」「Claude Code」の連携手法をサイバーエージェント「コアテク」が解説
2026.11.10

注目記事ランキング

2026.11.10 - 2026.11.17
VIEW MORE

連載・特集ピックアップ

イベントカレンダー

VIEW MORE

今日の用語

ラグドール(Rag Doll)
ラグドール ぬいぐるみを意味する英語。 ゲームにおける、キャラクターの全身が脱力したかのような挙動を行う物理シミュレーション。ラグドール物理。 例えば、上空からの落下やキャラクターが死亡した際に用いられる。
VIEW MORE

Xで最新情報をチェック!