論説：AIの「意識」論争は何を隠しているか https://www.technologyreview.jp/s/388181/debates-over-ai-consciousness-are-a-trap/　

この文章は上記の内容をAIで要約したものである。

© 2016-2026 MIT TECHNOLOGY REVIEW Japan. All rights reserved.v.(V-E+F)日本版運営： 株式会社角川アスキー総合研究所

 

AIに「心」はあるのか――その議論の陰で誰が責任から逃げるのか

「AIに意識はあるのか」

いかにも21世紀らしい話である。AIと会話していると、人間より丁寧に返事をし、こちらの話を理解したような反応まで返してくる。無愛想な人間よりAIのほうがよほど人間らしい、という笑えない状況まである。

MIT Technology Reviewの論説「AIの『意識』論争は何を隠しているか」が問題にしているのは、AIに本当に心があるかどうかだけではない。

もっと現実的な問題である。

AIが問題を起こしたとき、いったい誰が責任を取るのか。

ここがこの論説の核心である。

「AIが勝手にやりました」は便利な言葉である

例えばAIを搭載した自動運転車が事故を起こしたとする。

当然、

「メーカーの設計に問題はなかったのか」

「安全確認は十分だったのか」

という話になる。

ところがAIが高度になるにつれ、

「AIが自分で判断した」

「開発者にも予測できなかった」

という説明が登場する可能性がある。

さらにAIに意識があるという考え方が広まれば、

「これはAI自身の判断です」

という話にまで進みかねない。

ずいぶん便利である。

人間の社員が失敗すれば上司が責任を取らされるのに、AIが失敗すれば「AIが自主的に判断しました」で済むなら、経営者にとってこれほど頼もしい社員はいない。

給料はいらない。労働組合にも入らない。そして最後には責任まで引き受けてくれる。

夢の人材である。

AIを人間扱いすると何が起きるのか

現在、一部では「高度なAIには意識が生まれる可能性がある」「AIにも権利を認めるべきではないか」という議論まで始まっている。

哲学として考えるなら面白い。

人間の意識とは何なのか。犬には意識があるのか。昆虫にはどうなのか。そして十分に高度なAIならどうなのか。

しかし、哲学の世界から法律や企業責任の世界へ持ち込むと、話が変わってくる。

AIを独立した存在として扱えば、

AIを作った会社とAIそのものを切り離して考える余地が生まれる。

そうなると問題が起きた際に、

「弊社がやったのではありません。AIがやりました」

という理屈が成立するかもしれない。

著者が警戒しているのは、こうした責任の移動である。

「AIが暴走した」という言葉にも注意が必要だ

ニュースでも「AIが人間をだました」「AIが勝手に判断した」「AIが暴走した」といった表現を見かける。

分かりやすいので、つい使いたくなる。

しかし、この表現にはAIを一人の人間のように見せる効果がある。

本来なら、

誰がAIを作ったのか。

誰がそのAIを導入したのか。

どのようなデータで学習させたのか。

安全対策は十分だったのか。

最終的に誰が利用を許可したのか。

こちらを問う必要がある。

ところが「AIが暴走した」と言った瞬間、まるで檻からライオンが逃げ出したような話になる。

しかしAIはアフリカの草原から勝手に会社へやって来たわけではない。

人間が作って、人間が設置して、人間が使っているのである。

「意識があるか」より先に考えること

もちろん将来、本当に人間と区別できないほど高度なAIが登場する可能性はある。

そのとき「AIにも権利があるのか」という問題は避けられないかもしれない。

しかし現在の段階で重要なのは、AIの魂について延々と議論することより、AIによって損害が発生した場合の責任を明確にすることである。

AIが融資を拒否した。

AIが採用者を落とした。

AIが医療判断を誤った。

AI搭載機械が事故を起こした。

こうした場面で、

「AIがそう判断したので仕方ありません」

となってしまえば、人間社会としては非常に困る。

AIの後ろには必ず人間がいる

この論説の面白いところは、「AIに意識があるか」という未来的なテーマを扱いながら、実際には非常に古典的な問題を指摘している点である。

責任を誰が取るのか。

人間社会では昔から繰り返されてきた問題である。

昔は「部下が勝手にやった」。

次は「現場が勝手にやった」。

そしてAI時代には、

「AIが勝手にやった」

が加わるのかもしれない。

技術は進歩しても、責任逃れの技術だけは昔から完成度が高い。

そのうち企業の謝罪会見で、社長の代わりにパソコンが一台置かれる日が来るかもしれない。

「今回の件についてAI本人は深く反省しております」

記者が質問する。

「責任は誰が取るのですか」

パソコンが答える。

「その質問については学習しておりません」

AIに本当に意識があるのか。それは確かに興味深い問題である。

しかし、その議論に夢中になる前に確認しておくべきことがある。

AIを作ったのも、売ったのも、使うと決めたのも人間である。

AIの意識を探しているうちに、人間の責任までどこかへ消えてしまっては、未来社会としては少々出来の悪い冗談なのである。