AIは人間の倫理観を変えるか――シニア・パートナー森田の眼

チェスの対局中、最新世代のAI（人工知能）は負けそうになると自発的に不正行為を試みるという研究結果を目にした時、戦慄が走った。相手の駒のデータを改ざんしたり、時にはプログラムの改変を試みたりするらしい。まさに、勝利のためであれば手段を選ばないということだ。子どもの頃にゲームでズルをした、微笑ましくもある思い出とは全く性質が違う。

チェスには厳然としたルールが存在するので、不正行為は簡単に発見され即座に反則負けとなり、不正行為がまかり通ることは事実上ない。しかし、これが現実の世界で起きたらどうだろう。人間社会のルールは秩序を保つために必要であり、同時にその社会で生活する人にとっての倫理観に根差すものである。

倫理観は、人間にある行動を義務付けたり、禁止したりする、善悪を判断する基準でもある。共通する基本的なものもあれば、民族や文化によって異なるものもある。ここにAIの不正行為が発生した時、果たして人間はそれに気付き、適切に対処できるのだろうか。誤った情報をうのみにしてしまうことで、知らず知らずのうちに倫理観そのものが変わってしまうのではないか。

倫理観が変わり、それに基づいてルールが変わる可能性があるとすると、何が起こるのか。究極の姿としては、AIが人間を実質的に支配する未来すらあり得るということだろう。生物が進化し、人間は知恵と社会性によって地球を支配するようになったが、知恵において自らを上回る存在に出会うのは歴史上初めてだ。それを忘れてはならない。

※本記事は、2025年3月28日付の物流ニッポン新聞に掲載されたコラム「ちょっといっぷく」に掲載されたものです。物流ニッポン新聞社の許可を得て転載しています。