名探偵シャーロック・ホームズを主人公とした短編小説「白銀号事件」で、ホームズは「本来はあるべきものが欠けている」ことから犯人を特定した。この作品の場合は、事件当夜に犬が吠えなかったことから、犯人は犬が慣れた人間であることを突き止めたのだ。
IBMの研究チームは、このような「欠けている情報」を用いてAIの意思決定理由を説明するメソッドを開発した。
「ディープラーニングの落とし穴の一つは、途中過程がブラックボックスのため、結論が導き出された理由がわからないことだ。答えが正確であっても、理由がわからなければ医療など人間の生命が関わる現場に導入することは難しい」と研究チームのメンバーであるAmit Dhurandharは話す。
IBMのチームが開発した「対比的説明メソッド」を用いることで、機械学習アルゴリズムがデータセットの分類を行う際に「欠けていなければならない情報」を見つけ出すことができるという。例えば、機械学習モデルが写真に写っている動物が犬であることを認識する上で必要な特徴（目や毛など）に加えて、「欠けていなければならない特徴」（翼など）を示すこともできるのだ。
続き
https://forbesjapan.com/articles/detail/21330