人工知能(AI)が暴走して世界を恐怖に陥れるという物語設定は、SFの定番テーマのひとつとして扱われてきました。しかし、いまやそれも現実のものになりつつあるようです。MITの研究者は「精神的に異常な人工知能」を作り上げたと発表しました。
アルフレッド・ヒッチコック監督の映画「サイコ」にちなみ"Norman"と名付けられたこのサイコパスAIは、インターネット掲示板サイトRedditにアップロードされた「暴力的で陰惨な」...ストレートに言えばグロ画像を延々と参照させることで、ロールシャッハテストにおいておおよそまともではない返答を返すようになったとのこと。
ロールシャッハテストとは、インクを垂らした紙を2つに折りたたんで広げなおし、そこにできあがった模様が何に見えるかを回答させて被験者の思考や障害の度合いを推定する試験方法。
これを通常の画像で鍛えた通常のAIとノーマンに見せて比較したところ、たとえばある模様では通常のAIが「花を生けた花瓶」と回答したところをノーマンは「射殺された男性」との結果を得ました。また別の模様をみせれば、通常AIは「傘を掲げた人」、ノーマンは「悲鳴をあげる妻の前で射たれた夫」、さらに別の模様では、通常AIの「隣り合う男女」に対して「建物から飛び降りる妊婦」と答える始末。
書いているこちらまで気分が滅入ってしまいそうなノーマンの発想には、(研究者がそのよう仕向けたとはいえ)よくもここまで悲惨で鬱屈した思考状態に追い込んだものだと思わざるを得ません。
この研究は、機械学習が入力される情報によって大きく左右されること、AIのアルゴリズムのバランスが崩れていると思われる場合、むしろアルゴリズムを形成する材料となったデータそのものに偏りがあるということを証明するために行なわれました。
そして、これはAIが現実社会のあらゆる仕事や公共サービスに浸透するにつれ、どこかで有意な結果を招く可能性があることを示していると考えられます。ノーマンの異常な思考による回答は、人類の将来に訪れるかもしれないなにかを予見させる...とは考えたくないものです。
ソース
陰惨画像に晒されサイコパス化したAI「ノーマン」。MIT、偏った学習ではAIも鬱屈すると証明 - Engadget 日本版
https://japanese.engadget.com/2018/06/08/ai-mit-ai/