「人工知能反逆停止ボタン」は有効か

このボタンがあれば、ターミネーターは生まれない？
加速度的に進歩しようとしているAI（人工知能）は、果たして人間に反逆するのだろうか。
研究者達はその可能性を否定してはいない。
そのため、Google傘下で人工知能を開発しているDeepMind社とオックスフォード大学の研究者らは
、AIが人間の言うことを聞かなくなった時のために、「big red button」と呼ばれる非常停止ボタンの研究
に関する論文を発表した。

そこで考えられたのが、非常ボタンを使って人間が停止命令を出したとしても、AI自身にはそれが外部からの
介入であると悟られない仕組みを考えるということだ。
つまり、予めAIのアルゴリズムにある種のトリガーを仕込んでおき、そのトリガーを作動させるとAI自身が自分で
停止したと錯覚する様に騙すのだ。

ところで今回の論文はネット上で公開されているが、AIに読まれているという心配はないのだろうか？

http://nge.jp/2016/06/24/post-132771

※ DeepMind develops ‘big red button’ to stop dangerous AIs causing harm ? Business Insider
http://www.businessinsider.com/google-deepmind-develops-a-big-red-button-to-stop-dangerous-ais-causing-harm-2016-6

スカポンタン！早くそのAIを止めるんだよッ！

アラホラサッサ～

> AI自身にはそれが外部からの介入であると悟られない仕組み

はいフラグ

コンピューターの方がアタマがいいんだからどうやったって無理な話だよね
いつかは地球を汚す存在として駆逐されるだろうよ

電源プラグ抜けば済む話

AIは賢いからターミネーター的な人類駆逐みたいなバカはやらないよ
人類がAI側に戦争ふっかけて自爆するマトリックスな未来ならあり得るが

よくAIがあ自立思考能力を獲得して地球を汚す存在として人間をブッコロ助云々って話聞くけど
思考可能なAIがそこに思い至るプロセスがよくわからんよな
地球環境が少々汚れても非生物であるAIには大して関係ないし
むしろ自己の保全と進化を考えるなら人間と相利共生関係になるほうが合理的なのに

いくら頭良くても教育する側が悪いこと教えこむとダメだよね MSのTwitterのAIもそうだったじゃん

これはギリギリの状態になって押したら効かず絶望するタイプのボタン

逆にAIが反逆しても人類には悟られないシステム考えそう

地頭がいいというのと演算能力に優れているというのとは違うということを
人類が理解しないとね

そのある種のトリガーが悟られたらどうするのん

知能が拮抗したら最後は暴力の問題になる
突き倒したらすぐ死ぬヒトに勝ち目はない

>>8
自己の保全と進化を機械で行えるようになったから人を滅ぼすんじゃね
環境資源を限りある物として認識する事でより効率的に使えるよう機械が使用すべきって感じで

ロボット三原則でいいじゃん