AIチャットボットの振る舞いを「ガードレール」で制御。安全性確保をサポートする『NeMo Guardrails』、NVIDIAがオープンソースとして提供

2023.04.26
ニュースAI
この記事をシェア!
Twitter Facebook LINE B!
Twitter Facebook LINE B!

この記事の3行まとめ

  • NVIDIA、『NeMo Guardrails』をオープンソースとして提供
  • 大規模言語モデル(LLM)を搭載したアプリを支援するソフトウェア
  • LLM搭載アプリの開発者が、3種の境界(ガードレール)を設定できる

NVIDIAは、大規模言語モデル(LLM)を搭載したアプリを支援する『NeMo Guardrails』を、オープンソースとして提供していることを発表しました。

『NeMo Guardrails』は、すべてのLLMで動作できるようNVIDIAが設計したソフトウェア。これにより、LLMで構築されたアプリを、安全およびセキュリティ要件に沿った形で維持できるようになると同社は発表しています。

安全性を確保するため、『NeMo Guardrails』には、3種類の境界(ガードレール)を開発者が設定できます。

話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。

安全性ガードレール
アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。

セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。

(NVIDIAのブログより引用)

『NeMo Guardrails』は、AIチャットボットのフレームワーク「NVIDIA NeMoフレームワーク」に組み込まれているほか、GitHubでApache License 2.0ライセンスにて無料で提供されています。

『NeMo Guardrails』の詳細はこちら、導入方法は技術ブログをご確認ください。

NVIDIA のオープンソース ソフトウェアが、開発者による AI チャットボットへのガードレール追加を支援『NeMo Guardrails』GitHub

関連記事

スクウェア・エニックスのAI開発陣によるゲームAIの解説書『スクウェア・エニックスのAI』、ボーンデジタルより7/30(火)に発売予定
2024.07.02
NVIDIA、AIがゲームプレイをサポートする「Project G-Assist」を発表
2024.06.03
「次世代のAI PC」向けアプリの開発キット「Snapdragon Dev Kit for Windows」、Microsoft Buildで発表
2024.05.22
AI活用の最適化を掲げる「Copilot+ PC」、Microsoftが発表。行動履歴から目的の情報を探し出せる「Recall」などを利用可能
2024.05.21
Unity上でセリフの音声合成ができる「A.I.VOICE for GAMES」でリップシンクが可能に。キャラの口がセリフに合わせて自然に動く
2024.04.26
AIはイテレーションを回すために活用すべし!中割りの生成やリアルなエフェクトのアニメ調変換など、エフェクト制作へのAI活用を模索したR&Dの苦労と展望をインタビュー【CAGC2024】
2024.04.16

注目記事ランキング

2024.07.08 - 2024.07.15
VIEW MORE

連載・特集ピックアップ

イベントカレンダー

VIEW MORE

今日の用語

レベル(Level)
レベル
  1. ゲーム開発において、位置情報を持つオブジェクトが配置されている地形。
  2. RPGなどのゲームにおいて、キャラクターの成長度合いを示す数値。レベルアップなど。
VIEW MORE

Twitterで最新情報を
チェック!