5～10件のネット投稿を調べるだけで、コミュニティーで「荒らし」をしそうなメンバーを予測できるアルゴリズムが開発された。グーグルの資金提供を受けた、スタンフォード大学とコーネル大学による研究だ。
http://wired.jp/wp-content/uploads/2015/04/trolls-road.jpg
英語で「荒らし」は「Troll」と呼ばれる。もともとは北欧の伝承に登場する妖精の一種だが、「厄介者」という意味もある。Norwegian Troll photo from Shutterstock
5～10件のネット投稿を調べるだけで、オンライコミュニティーで「荒らし」をしそうなメンバーを予測できるアルゴリズムが開発された。
この研究（PDF）は、グーグルから資金提供を受けて、スタンフォード大学とコーネル大学の研究者たちが行ったものだ。
研究では、ニュースサイト「CNN」、政治サイト「Breitbart」、ゲームサイト「IGN」のコメント／フォーラム・セクションという3つのコミュニティーを、18カ月間に渡って調査した。対象となったユーザー数は合計で170万人、投稿件数は4,000万件だ。
この研究では、「ネット荒らし」の行動が長期にわたって観察され、最終的に何が原因でコミュニティーへの立ち入りを禁止されたのかが分析された。その結果、「荒らし」は投稿回数が多く、スペルミスや文法間違いが散見される（しかも時間とともに悪化する）ことがわかった。さらに、コミュニティー側にも、彼らの反社会的行動を増長させる「培養器」の役割を果たす傾向があることがわかった。
サイトから「永久追放」を言い渡されるに至ったユーザーは、最初から非常に明確な行動や人格を示していた。彼らの投稿内容は他のユーザーと比べてひどく悪質で、時間がたつにつれてさらに悪化していった。
彼らは投稿回数が多いことが特徴だ。例えば、CNNで立ち入りが禁止されたユーザーは、禁止されるまでに264回の投稿を行っていた。平均的なコミュニティー・メンバーは、同等の期間で22回しか投稿していなかった。
また、悪質なユーザーは、平均的ユーザーと比べて返信を受ける回数も多かった。研究者たちによるとこれは、「彼らが、時間だけかかる無駄な論争に他人を引きずり込むことに成功した」可能性があることを示唆しているという。
こうした荒らしに対してコミュニティー側が厳しいフィードバックを行っても、反社会的行動をさらに激化させるだけになる可能性が高いと、研究では主張している。
これらのプラットフォームはそれぞれ、反社会的行動をやめさせるためのメカニズムを組み込んでいると、研究では指摘している。「コミュニティーでの議論の管理や、賛成／反対投票する機能、問題投稿を報告できる機能、ミュート機能、さらにはもっと根本的に、ユーザーの投稿機能を完全ブロック」といったものだ。
ただし、研究で開発されたアルゴリズムが「将来の荒らし」として選び出したユーザーの5人に1人は、間違って特定されたもので、立ち入り禁止になることはなかった。「（クラウドソーシングなどを利用して）ユーザーをさらにきめ細かくラベル付けすれば、より幅広い行動情報が明らかになるだろう」と研究チームは述べている。
http://wired.jp/2015/04/18/troll-hunting-algorithm/