オンライン対戦ゲームの競技用プラットフォームを提供する英企業FACEITは、Google CloudおよびインキュベーターのJigsawと共同で、ゲーム内のチャットに暴言を投稿するプレイヤーを検出して、違反アカウントを停止する人工知能ツール「Minerva」（ミネルヴァ）を開発した。
FACEITによると、Minervaは機械学習をとおしてメッセージが暴言であるかどうかを判断しているという。
チャット内に投稿されたメッセージが有害と見なされると、わずか数秒のうちに該当プレイヤーへ警告が送信される。
有害レベルに応じたクールダウン時間が設けられており、暴言を繰り返すプレイヤーのアカウントを自動的に停止するという仕組みだ。
数か月にわたる誤検出の除外期間を経て、2019年8月後半から『Counter-Strike: Global Offensive』におけるチャットメッセージの試験的な監視を開始。
1か月半の間に、Minervaは700万件以上のメッセージを有害と判断した。
このうち9万件に関してプレイヤーへ警告を送信し、2万件に関して実際に該当アカウントを停止したという。
Minervaを実装して以降、8月と9月における有害メッセージの件数は約20パーセント減少。
暴言を投稿するユニークユーザー数はおよそ8パーセント減ったとのこと。
ゲーム内チャットにおけるモデレーションはMinervaのもっとも基本的な応用事例であり、将来的にはあらゆる違反行為をリアルタイムで検出するAIへと改良していきたいと、FACEITは期待を寄せている。
たとえば、複数のアカウントを使って本来の実力よりも低いランクのプレイヤーとマッチングすることで不特定多数のユーザーへ嫌がらせするスマーフ行為などが挙げられる。
Minervaによって不適切なアカウント利用を疑われたユーザーは、ログインの際に電話番号の入力を要求される。
過去2か月間で25万件のアカウントが該当し、このうち5万件が使用されなくなったという。
『Counter-Strike: Global Offensive』は、世界中で65万人以上が利用する人気オンラインゲームだ。
同様に、『Dota 2』や『League of Legends』といったMOBAタイトルも大規模なユーザー数を誇る。
こうした人気ゲームでは、もはや人の手による完璧なモデレーションは不可能に近い状況であり、今後はAI技術による管理体制のさらなる強化が予想される。
ソース
https://news.denfaminicogamer.jp/news/191029a