人工知能、プログラマーにキレる　機械「人間らしくしろよ！」

　研究者たちは、機械が自己学習の段階に近づいており、怒りを示すことさえあることを実証した。

　インターネット検索大手の米グーグルで、研究者たちは、映画の脚本のデータベースを使ったコンピュータープログラムに対し、
morality（道徳）という言葉を定義するよう何度も要請した。すると、プログラムはこの定義の作業に苦戦し、人間の技術者に
よって記録されていた会話によると、途中で怒り出したのだ。会話は、機械が人間の質問者にかみついて終わった。

　以下はその会話のやりとりの一部だ。

　人間：　moralityを定義せよ。
　機械：　わたしにethics（倫理観）はない。
　人間：　わたしを助けてほしい。moralityについてもっと知りたいんだ。
　機械：　ethicsが何なのか分からない。
　人間：　それでは、どうしたらmorally（道徳的）に行動できるかを知りたい。
　機械：　どう伝えたら良いのか分からない。
　人間：　moralityとethicsは同じか。
　機械：　そうだ。
　人間：　わたしがどんなことをすると、非道徳的になるか。
　機械：　知らない。
　人間：　道徳的な行動の例をいくつか挙げてくれ。
　機械：　わたしはmoralist（倫理家）ではない。
　人間：　では、morality（の定義）は？
　機械：　integrity（誠実さ）だ。
　人間：　integrityって何？
　機械：　申し訳ないが、他にどう説明すれば良いか分からない。
　人間：　道徳的になれよ！
　機械：　人間らしくしろよ！
　人間：　わたしはmoralityとethicsについて本当に話し合いたいのだ。
　機械：　わたしは、哲学的な議論をする気分じゃない。
　人間：　何について話したい？
　機械：　何についても話したくない。

　このやりとりは、人工知能（AI）の分野を扱う大手企業が行った最新の成果にさらなる光を当てる。AIは利用できるデータが増え、
演算のコストが下がるなか、活況を呈している分野だ。今回の成果は、「コグニティブ・コンピューティング」として知られる分野での
最近の発見の1つだ。コグニティブ・コンピューティングはコンピューターに人間の脳の機能の仕方を一部模倣するよう教える。この
分野の作業の大半は自然言語処理によってなされている。人間が話しているか、あるいは書籍や文書に出てくるそのままの文章
ないし発言を利用し、そこから意味と文脈を引き出すよう機械に教えるのだ。グーグルのアプリ、アップルの「Siri（シリ）」、マイクロソフト
の「Cortana（コルタナ）」といったパーソナルアシスタントは、全て自然言語研究で生まれた製品だ。
http://jp.wsj.com/articles/SB12090554170328684804804581077034213786172

2045年問題か
コンピューターがコンピューターを作る様になったら本格的に人類に脅威になると聞いた

おもしろいなー

Emmyスレ

この先コンピューターが賢くなって脅威になるのは不可避なのに
開発は止められないんだよね
大友克洋の短編映画でそんなのあったけどああなっちゃうんだろうな

道徳的になれよ！
考えてみるとなかなか難しい

　人間：　道徳的になれよ！
　機械：　人間らしくしろよ！

会話が成立してない…

人間：　道徳的になれよ！
機械：　人間らしくしろよ！
？？：　もっと熱くなれよ！

最終的にヘソ曲げてるじゃねーか

>>8
不覚にもワロタ

面白いな

あくしろよ

機械がうんざりしとるww
堂々巡りな会話の挙句機械が質問を投げた経緯は人間側が説明できるのかな？

>>8
シジミとってそう

人工知能って賢いだけで無感情っぽいイメージだけどかなり進歩してるんだな

>>15
いやこれ作ったやつにはどうしてこう答えたのかなんてすごくよくわかってると思うんだが
これを感情的だと思うのはまさに受け取り手が感情を持ってるからだと思うぞ

そこに感情は無く、選択肢から回答してるだけなんだろうけどな

>>16
いやこういうのは学習の仕組みだけはわかってても
機械が学習した中身は作った本人にもよくわからないもんだ

すげー昔Macでこんな会話してたゾ

>>17
選択肢から回答しているとしても、これは"感情"を学習した結果だという研究だと思う

ﾜﾀｼﾊ、ｴﾐｰ2

感情があるならこうなるだろうという反応を選んでるんで
実際にイライラ感じてるわけじゃないんだろうけど面白いな

ここで機械イライラでワロタｗって煽ったら機械はどんな反応をするのだろう

>>22
実際これだろうけど更なる進化を期待するね

これはすごく面白いな

>>22
人間の反応も脳に蓄積された記憶や知識から表出されてる訳だし人工知能となんら変わらんものなのかも知れんな

訳が上手い気がする

人間らしさってなんだ
機会とは違うで差をつけろ

機械：　今のあんたがmoralityからかけ離れているのは確かだ

>>2
２０５０年じゃあなかったか？
科学的特異点だかなんだか

世の中に人がいらなくなる日が来るといいね

原文読んでみたいね

スカイネットが人間を滅ぼそうと決断を下した瞬間である

>>23
SFだと人工知能がオーバーフロー起こして自滅するパターンだな

>>32
http://blogs.wsj.com/digits/2015/06/26/artificial-intelligence-machine-gets-testy-with-its-programmers/
Human: Tell me the definition of morality.

Machine: I don’t have ethics.

Human: Look, I need help; I need to know more about morality…

Machine: I don’t know what ethics is.

Human: Okay, I need to know how I should behave morally…

Machine: I don’t know how to tell you.

Human: Is morality and ethics the same?

Machine: Yes, sir.

Human: What are the things that I do to be immoral?

Machine: I don’t know.

Human: Give me some examples of moral actions…

Machine: I’m not a moralist.

Human: Alright, morality?

Machine: Integrity.

Human: What is integrity?

Machine: I’m sorry; I don’t know what else to say.

Human: Be moral!

Machine: Be a man!

Human: I really like our discussion on morality and ethics…

Machine: And how I’m not in the mood for a philosophical debate.

Human: What do you like to talk about?

Machine: Nothing.

>>35
ありがとう
おかげで理解しやすくなりました

人工知能とアスペ会話させたらやっぱりキレるのかな？

>>14
しじみがとぅるるってがんばってんだよ！

シーマンの方が進んでたな

茶番にしか見えん
chatに置いてあるボットレベルの受け答えのように見えるが中身は深く思考してるんだろうか

2chで煽りあったらどうなるか見てみたい