AIのブラックボックス化を防ぐ「欠けている情報」の重要性

1名無しさん@Next2ch:2018/06/03(日) 11:36:30.62 ID:GXZdbkj/

名探偵シャーロック・ホームズを主人公とした短編小説「白銀号事件」で、ホームズは「本来はあるべきものが欠けている」ことから犯人を特定した。この作品の場合は、事件当夜に犬が吠えなかったことから、犯人は犬が慣れた人間であることを突き止めたのだ。

IBMの研究チームは、このような「欠けている情報」を用いてAIの意思決定理由を説明するメソッドを開発した。

「ディープラーニングの落とし穴の一つは、途中過程がブラックボックスのため、結論が導き出された理由がわからないことだ。答えが正確であっても、理由がわからなければ医療など人間の生命が関わる現場に導入することは難しい」と研究チームのメンバーであるAmit Dhurandharは話す。

IBMのチームが開発した「対比的説明メソッド」を用いることで、機械学習アルゴリズムがデータセットの分類を行う際に「欠けていなければならない情報」を見つけ出すことができるという。例えば、機械学習モデルが写真に写っている動物が犬であることを認識する上で必要な特徴(目や毛など)に加えて、「欠けていなければならない特徴」(翼など)を示すこともできるのだ。

続き
https://forbesjapan.com/articles/detail/21330

2名無しさん@Next2ch:2018/06/03(日) 11:51:09.68 ID:GXZdbkj/

論文 https://arxiv.org/abs/1802.07623

3加津庸介:2018/06/03(日) 12:44:08.88 ID:ngaJelJN

よくわかりません。

4名無しさん@Next2ch:2018/06/03(日) 13:13:36.83 ID:GXZdbkj/

AIが直進せよと判断したので直進したら通行人を轢き殺しましたというときに
裁判官がAIになぜおまえは直進せよと判断したんだと訊いても答えてくれない
だからAIに責任ある判断を任せることはできない、という批判がある

しかしAI技術者はそんな批判を百も承知でAIに判断理由を答えさせる方法をいろいろと考えてきた
>>1 は「○○だったからこう判断しました」とAIに答えさせるのに加えて「○○でなかったからこう判断しませんでした」と答えさせることで
より人間を納得させやすくしたという研究

5名無しさん@Next2ch:2018/06/03(日) 15:02:40.01 ID:nxvBYkfS

機械に意思はないでしょ
意思に見えるのは
あみだくじの進みかたをあみだくじ知らないやつが側から見るからだよ

6名無しさん@Next2ch:2019/04/10(水) 03:11:04.58 ID:jENc08+G

4が分りみ

7名無しさん@Next2ch:2019/09/06(金) 00:10:05.33 ID:GDxGg9Ub

機械に責任を負わせることはできないんだから結局普及せんよ。
AIに完全に置き換わるのは責任を伴わない分野だけ。

でもAIを導入することによって人的資源を節約できる分野は結構多い。
例えば内科医。
循環器科等の手技を伴う分野以外の一般的な内科医の仕事とは、検査情報を取り込んで治療情報を出力する事であり、これは情報工学的視点で言えば一つの関数だと捉える事ができる。
内科医の存在とは情報処理のアルゴリズムそのものだ。
今は医師一人一人が医学部で勉強し、多大な税金と時間を使い、自分の頭の中に診断アルゴリズムを構築した後に医者として働き始めるわけだが、こんなのは時間と税金の無駄でしかない。
正確なアルゴリズムが構築できない医者も多いし、金を稼ぎたいばかりに意図的に診療方針を曲げる医者もいる。
AIに置き換えればこうした所謂「ヤブ医者」もいなくなる。

今現在100人の内科医が働いている病院であれば、これを10人程度に減らすことが可能。
将来的に内科医の人数は現在の1/10程度に減少し、仕事内容は診療システムの出した治療方針書に責任の所在を示すサインをするだけになる。
病院の診療の流れは確実に変化する。
検査はコメディカルがデータを集めて診断システムに入力し、出てきた診療方針に数名の内科医がサインをし、コメディカルがそれに従い処置をする、という未来が必ず来る。

日本医師会は既存の医師の利権を守るために医師数削減と医師の所得上昇に躍起になっているが、こうした努力は徒労に終わる。

8オーバーテクナナシー:2019/10/11(金) 13:42:28.31 ID:2WVFPJ1b

(強いAI)技術的特異点/シンギュラリティ175
https://rio2016.5ch.net/test/read.cgi/future/1570575707/

9名無しさん@Next2ch:2019/10/11(金) 16:36:20.34 ID:2Ar6xqf+

>>5がわかりみ

10名無しさん@Next2ch:2019/10/11(金) 16:50:49.72 ID:32ZqhXWc

感情能力のないAIに高度な仕事を任せても
遠からずネトウヨおっさん医師やヘイト公務員みたいにダメダメな結果を出すよ

11名無しさん@Next2ch:2019/10/13(日) 01:48:49.02 ID:DRxcl2eP

>>10
ネトウヨ住職も追加で

12名無しさん@Next2ch:2019/10/18(金) 02:16:57.08 ID:WpA8fj1r

(本来の仕事だった学問分野での大量単純計算処理を除き)
AIの適職って
結局SNSのデータやネットショップのデータ分析して
広告屋のキュレーターやってるのが一番似合ってると思う

13オーバーテクナナシー:2019/10/26(土) 09:23:42.64 ID:oJMZKGtQ

(強いAI)技術的特異点/シンギュラリティ176
https://rio2016.5ch.net/test/read.cgi/future/1571573897/

14オーバーテクナナシー:2019/10/30(水) 09:52:23.33 ID:SnSjZ1h8

(強いAI)技術的特異点/シンギュラリティ177
https://rio2016.5ch.net/test/read.cgi/future/1572374053/

15オーバーテクナナシー:2019/11/08(金) 18:59:45.72 ID:nOLGb6+q

(強いAI)技術的特異点/シンギュラリティ178
https://rio2016.5ch.net/test/read.cgi/future/1573088050/

16名無しさん@Next2ch:2019/11/10(日) 17:59:10.38 ID:RhBdLqVP

いまだにAIに強烈な夢を見てる人らがいるんだな
何十年経っても日本語変換すら未だにろくにできないのに

17名無しさん@Next2ch:2019/11/14(木) 05:01:25.67 ID:jJRLPGc2

AIは日本語変換も翻訳も未だにクソだし
検索に至っては「棚 シェルフ 奥行40cm」みたいな超具体的なワード入れても
なぜかベッド(ワードに全く関係なし)だのクリスマス用の飾り(多分季節商品のアピール)だの
文字通りクソミソな検索結果をトップにあげてくるからな
ヒューリスティックだのアルゴリズムだのご大層に言ってても
現実の生活にこれだけ不便を強いてるAI様が今後どんな進化を見せてくれるのか笑えるわ
さぞ人間にとって不便な未来が待っていることだろう


レスを書き込む