この記事の3行まとめ
- NVIDIAが技術デモ『NVIDIA Chat With RTX』をリリース
- GeForce RTX 30/40シリーズのGPUなどを搭載したWindows PCで利用可能なAIチャットボット
- ローカルファイルをデータセットとして利用できる
NVIDIAは2024年2月13日(現地時間)、技術デモとして『NVIDIA Chat With RTX(以下、Chat With RTX)』を無料でリリースしました。
Calling all GeForce RTX users 📢
You can now create a personalized chatbot w/ the Chat with RTX tech demo 💬
Available to download now → https://t.co/5BmDMYdpkt #AIonRTX pic.twitter.com/GheslqdGQL
— NVIDIA GeForce (@NVIDIAGeForce) February 13, 2024
AIチャットボット『Chat With RTX』は、MistralやLlama 2などのオープンソースの大規模言語モデル(LLM)にPC上のローカルファイルをデータセットとして読み込ませられる点が特徴の一つです。これにより、ユーザーがAIチャットボットをパーソナライズできます。
また、インターネットにデータをアップするといった必要もないため、機密性の高いデータの処理にも向いているとのこと。
PC上のローカルデータを基に、「サラのおススメしてくれたレストランの名前は何?」という質問に対して「The Red Le Bernardin」という回答を生成(スクリーンショットはYouTubeより引用)
『Chat With RTX』は、「.txt」「.pdf」「.doc/.docx」「.xml」などのファイル形式をサポート。また、YouTubeの動画やプレイリストもデータセットとして利用することが可能です。
CES 2024でのNVIDIAの発表動画を基に、「NVIDIAがCES 2024で何のGPUの発表をした?」という質問に対して、的確な回答を生成している様子を確認できる(スクリーンショットはYouTubeより引用)
『Chat With RTX』のシステム要件は以下の通りです。
- 8GB以上のVRAMを搭載した、GeForce RTX 30/40シリーズまたはNVIDIA RTX Ampere/Ada
- RAM 16GB以上
- Windows 11
- NVIDIA GPU ドライバー 535.11以降
『Chat With RTX』の詳細およびダウンロードは、こちらをご確認ください。
『NVIDIA Chat with RTX』公式サイト『Say What? Chat With RTX Brings Custom Chatbot to NVIDIA RTX AI PCs』公式サイト