この記事の3行まとめ
- NVIDIA、『NeMo Guardrails』をオープンソースとして提供
- 大規模言語モデル（LLM）を搭載したアプリを支援するソフトウェア
- LLM搭載アプリの開発者が、3種の境界（ガードレール）を設定できる
NVIDIAは、大規模言語モデル（LLM）を搭載したアプリを支援する『NeMo Guardrails』を、オープンソースとして提供していることを発表しました。
NeMo Guardrails, the new toolkit for easily developing trustworthy LLM-based conversational applications.
It works with all #LLMs and natively supports @LangChainAI, adding a layer of safety, security, and topical guardrails to existing applications. ➡️ https://t.co/CBHbTkcDUU pic.twitter.com/irYFmlHKdM
— NVIDIA AI Developer (@NVIDIAAIDev) April 25, 2023
NeMo Guardrails, the new toolkit for easily developing trustworthy LLM-based conversational applications.
It works with all #LLMs and natively supports @LangChainAI, adding a layer of safety, security, and topical guardrails to existing applications. ➡️ https://t.co/CBHbTkcDUU pic.twitter.com/irYFmlHKdM
— NVIDIA AI Developer (@NVIDIAAIDev) April 25, 2023
『NeMo Guardrails』は、すべてのLLMで動作できるようNVIDIAが設計したソフトウェア。これにより、LLMで構築されたアプリを、安全およびセキュリティ要件に沿った形で維持できるようになると同社は発表しています。
安全性を確保するため、『NeMo Guardrails』には、3種類の境界（ガードレール）を開発者が設定できます。
話題のガードレール
アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。
安全性ガードレール
アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。
セキュリティ ガードレール
安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。
（NVIDIAのブログより引用）
『NeMo Guardrails』は、AIチャットボットのフレームワーク「NVIDIA NeMoフレームワーク」に組み込まれているほか、GitHubでApache License 2.0ライセンスにて無料で提供されています。
『NeMo Guardrails』の詳細はこちら、導入方法は技術ブログをご確認ください。
NVIDIA のオープンソース ソフトウェアが、開発者による AI チャットボットへのガードレール追加を支援『NeMo Guardrails』GitHub
