ゴリラ認定された人が思いついて逆にゴリラで検索した結果とか
グーグルの言い訳とかgigazineだけどちょっとおもしろかった
@jackyalcine
Google Photos, y'all fucked up. My friend's not a gorilla. 2015年6月29日 10:22
ことの発端となったのはJacky Alcin?さんが行ったツイート。
「 Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。
高層ビル、飛行 機、車、などは正しく認識されていますが、
下段真ん中に写っているAlcin?さんと友人が「ゴリラ」と認識されていました。
さらに、Alcin?さんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、
「Googleはどういう写真からデータを集めているの？」と不信に思っていた様子。
@jackyalcine
What kind of sample image data you collected that would result in this son?
@jackyalcine
And it's only photos I have with her it's doing this with (results truncated b/c personal): pic.twitter.com/h7MTXd3wgo
2015年6月29日 10:32
Alcin?さんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。
Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、
Alcin?さん の許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。
またZungerさんは「このようなことはよくあります」としつつも
「マシン自体にバイアスはありませんが、我々が注意しない と彼らは容易に私たちから人種差別を『学んで』しまいます」
とAlcin?さんにメッセージを送っています。
これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、
それをマシンが機械学習してしまう、ということだと考えられます。