Unity Technologies、AIを用いたボイスチャット監視ツール『Safe Voice』のクローズドベータを開始！有害な言動を自動でカテゴライズし記録

Unity Technologiesは、AIを活用したボイスチャット分析ツール『Safe Voice』のクローズドベータを開始しました。

（画像はUnity Blogより引用）

Safe Voiceは、ゲーム内で行われるボイスチャットを分析し、侮辱、荒らし、軽蔑的な発言といった有害な言動を効率的に発見するツールです。分析には、高度な機械学習アルゴリズムなどの最先端のAI技術が用いられているとのこと。

ボイスチャットの音声をトーンやピッチ、感情、文脈などに基づき、「わいせつ」「脅迫」「侮辱」など12種類を超えるカテゴリーに分類し、記録。開発者はそれをもとに適切な対策を講じることが可能です。

関連性の高いカテゴリーとスコアを組み合わせて音声を分類する（画像はUnity Blogより引用）

従来は、ボイスチャットにおける問題への対策はプレイヤーの報告に頼っていました。この方法のみでは、報告を受けても対応に時間がかかり、プレイヤーの負担増大やプレイヤー人口の減少に繋がります。Safe Voiceを用いることで、自動的に問題のある言動が取得・整理され、迅速に対応できるようになります。

また、記録するデータには優先順位が設定されるため、迷惑行為の重大性を見分けることが可能です。とはいえ、ゲームのジャンルによって、迷惑行為にあたる発言の種類や含まれる単語は異なります。そのため、Safe Voiceではキーワードリストから特定の言葉の優先順位をカスタマイズする機能が搭載されています。

問題のある言動はダッシュボードから確認できる（画像は公式ページより引用）

Safe Voiceは同社が提供するボイスチャットサービス『Vivox』と容易に統合できます。また、ゲームエンジンに依存しないため、Unityのほかアンリアルエンジンなどのゲームエンジンでも使用することが可能です。

クローズドベータへの参加は、公式ページより行います。Safe Voiceの詳細は、Unity Blog「Tackling toxicity with Unity Safe Voice」をご確認ください。