「責任あるAI」の限界――シニア・パートナー森田の眼

トランプ米政権が発表した、人工知能（AI）の技術優位を高めるための「AI行動計画」は、大幅な規制緩和で中国との熾烈（しれつ）な競争に勝ち抜こうとする意思を示している。しかし、超党派の支持を得ていたディープフェイク対策を除けば、AIの安全性にはほとんど言及されていない。また、バイデン前大統領が米国人の公民権を保護する目的で制定したAI権利章典も破棄されてしまった。

オランダ・アムステルダム市は近年、AIを活用し、生活保護の不正受給を防ぐとともに、審査に必要な作業を軽減しようとする取り組みを行った。だが、専門家の下で「責任あるAI」、すなわち倫理的・社会的・法的に適切なアプローチでアルゴリズムを開発したにもかかわらず、導入は失敗に終わったと言われている。

アムステルダムは、歴史的に移民を多く受け入れてきた都市として知られている。過去の調査データをAIに学習させたところ、特定の人種や性別でリスクが高いという結果が出た。実態と乖離していたため、活用する変数に対する重みづけを修正したものの、精度は一向に高まらなかった。歴史的なバイアスを引きずってしまい、現代に合わなくなっているのだ。

そもそも、バイアスとは何かを定義すること自体が難しい。仮に数学的・統計的に定義できたとしても、その対象となる人々が納得するものでなければ、批判は続くだろう。すなわち、対象となる人々がリスクにさらされるものではなく、逆にメリットを享受できるものに焦点を当てなければ、この問題は永遠に解決しないのではないか。

※本記事は、2025年8月22日付の物流ニッポン新聞に掲載されたコラム「ちょっといっぷく」に掲載されたものです。物流ニッポン新聞社の許可を得て転載しています。