AIが直進せよと判断したので直進したら通行人を轢き殺しましたというときに
裁判官がAIになぜおまえは直進せよと判断したんだと訊いても答えてくれない
だからAIに責任ある判断を任せることはできない、という批判がある
しかしAI技術者はそんな批判を百も承知でAIに判断理由を答えさせる方法をいろいろと考えてきた
>>1 は「○○だったからこう判断しました」とAIに答えさせるのに加えて「○○でなかったからこう判断しませんでした」と答えさせることで
より人間を納得させやすくしたという研究
AIが直進せよと判断したので直進したら通行人を轢き殺しましたというときに
裁判官がAIになぜおまえは直進せよと判断したんだと訊いても答えてくれない
だからAIに責任ある判断を任せることはできない、という批判がある
しかしAI技術者はそんな批判を百も承知でAIに判断理由を答えさせる方法をいろいろと考えてきた
>>1 は「○○だったからこう判断しました」とAIに答えさせるのに加えて「○○でなかったからこう判断しませんでした」と答えさせることで
より人間を納得させやすくしたという研究