「DeepFake」ポルノ、Redditも禁止し、FakeAppのサブレディットを閉鎖
2018年02月08日 13時09分 公開
[ 佐藤由紀子，ITmedia]
オンラインコミュニティの米Redditは2月7日（現地時間）、AIのアルゴリズムを採用し、動画の顔の部分に別の人の顔を合成できるアプリ「FakeApp」を公開するサブレディット「deepfakes」を閉鎖した。
1月初旬に公開されたこのアプリでは、顔画像のデータがある程度あれば、動画の人物の顔を別の個人の顔とすげかえることができる。こうした動画は「ディープフェイク」と呼ばれる。この件について最初に報じた米Motherboard によると、アプリが公開されるとすぐに、どうしたら知り合いの顔をポルノ動画に貼り付けられるかという質問が投稿されたり、実際にポルノ動画の顔をセレブや無名の個人の顔にすげかえた動画が投稿されはじめたという。
Motherboardが報じた後、まずDiscordが、その後Twitterがディープフェイクを禁じた。
Redditは コミュニティ規則を更新し、「偽造された描写を含む、明らかに許可なしに作成・掲載された、ヌード状態の人物、または性的行為を行う人物を描写した画像や動画の配布を禁じる」と明示した。
新たに追加された禁止事項
FakeAppのチュートリアルによると、このアプリでは米Googleがオープンソースで提供している「TensorFlow」を採用している。
ポルノではないディープフェイクのサンプルはderpfakesのYouTubeチャンネル などで視聴できる。
www.itmedia.co.jp/news/articles/1802/08/news083.html