アングル：公的機関のＡＩ利用に警鐘、最後の砦は「人間の監視」
(一部抜粋)
［メルボルン １５日 トムソン・ロイター財団］ - ２０１６年のことだ。オーストラリアに住むミュージシャンのネイサン・カーニーさん（３３）は、社会保障当局から給付金の数千豪ドル分の過払いがあるとの通知を受けた時、何かまずいことが起きていることを感じ取った。だが八方手を尽くしても、このとんでもない間違いを訂正してくれる政府当局の「人間」は現れなかった。
＜人間が介入していれば……＞
膨れ上がる社会保障給付の申請処理をスピードアップしつつ不正を減らすため、各国政府は人工知能（ＡＩ）に注目している。だがこの技術は、運用上のトラブルや偏見を助長するとの批判に悩まされてきた。
公的機関によるＡＩの利用を研究するタパニ・リンタカヒラ教授（クイーンズランド大学）は、こうしたスキームには「本質的に問題」があり、人間性が完全に欠如しているせいで失敗する場合が多いと指摘する。
「どれほど優れたアルゴリズムがあり、いかに洗練されたものだとしても、社会保障のように繊細で根本的な人間の問題に対応することは不可能だ」とリンタカヒラ教授は言う。
さらに同教授は「こうしたサービスにＡＩアルゴリズムを導入することで、効率化や機能改善を図ることに反対はしない。ただ運用については、高いレベルでの慎重さ、つまり人間による監視と介入が必要になる」と続ける。
王立委員会の調査では、政府は早ければ２０１９年３月の段階でロボデットスキームがおそらく違法だという法的な助言を受けていたが、同１１月まで運用を停止しなかったことが明らかになっている。
https://jp.reuters.com/article/australia-tech-ai-idJPKBN2T3057