AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

2023.04.26
ニュースAI
この記事をシェア!
Twitter Facebook LINE B!
Twitter Facebook LINE B!

この記事の3行まとめ

  • NVIDIA、『NeMo Guardrails』をオープンソースとして提供
  • 大規模言語モデル(LLM)を搭載したアプリを支援するソフトウェア
  • LLM搭載アプリの開発者が、3種の境界(ガードレール)を設定できる

NVIDIAは、大規模言語モデル(LLM)を搭載したアプリを支援する『NeMo Guardrails』を、オープンソースとして提供していることを発表しました。

『NeMo Guardrails』は、すべてのLLMで動作できるようNVIDIAが設計したソフトウェア。これにより、LLMで構築されたアプリを、安全およびセキュリティ要件に沿った形で維持できるようになると同社は発表しています。

安全性を確保するため、『NeMo Guardrails』には、3種類の境界(ガードレール)を開発者が設定できます。

話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。

安全性ガードレール
アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。

セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。

(NVIDIAのブログより引用)

『NeMo Guardrails』は、AIチャットボットのフレームワーク「NVIDIA NeMoフレームワーク」に組み込まれているほか、GitHubでApache License 2.0ライセンスにて無料で提供されています。

『NeMo Guardrails』の詳細はこちら、導入方法は技術ブログをご確認ください。

NVIDIA のオープンソース ソフトウェアが、開発者による AI チャットボットへのガードレール追加を支援『NeMo Guardrails』GitHub

関連記事

エージェント型AI搭載のIDE「Kiro」プレビュー版がリリース。要件を補って仕様書を作り実装、リリースの定型作業も自動化
2025.07.17
Core Ultra 200Hシリーズ搭載のミニPC「GEEKOM IT15」、10万円台から販売中。AIアップスケーリング技術「Intel XeSS 2」に対応
2025.07.14 [PR]
ゲームAI活用の最新事例を総括。スクウェア・エニックスの三宅 陽一郎氏による講演をレポート【GFS2025】
2025.07.10
AIモデルの共通規格「MCP」を学べる書籍『やさしいMCP入門』、秀和システムが7/1(火)に発売
2025.06.26
NVIDIA、直近でアップデートしたAI関連技術のまとめを公開。UE公式の大型イベント「Unreal Fest Orlando 2025」にあわせて
2025.06.03
画像やテキストから3Dモデルを自動生成できるAIツール「Tripo Studio」、ベータ版が一般公開。公式Webサイトにて無償提供中
2025.06.02

注目記事ランキング

2025.07.11 - 2025.07.18
VIEW MORE

連載・特集ピックアップ

イベントカレンダー

VIEW MORE

今日の用語

パッケージ化
パッケージカ ゲーム開発において、ゲームの実行に必要なデータのみを、実行ファイルとそれに付随するデータの形式に変換すること。プラットフォームに合わせたファイルフォーマットに変換するほか、この段階でアセットファイルを再利用や改ざんすることができないように暗号化することが多い。
VIEW MORE

Xで最新情報をチェック!