AI本当に意識を持っているのか？『經濟學人』が警告：AIに権利を与えることは、人類の制御喪失につながる可能性がある

人工知能（AI）は、急速に人間と機械の境界を曖昧にしている。チャットボットが「友達」となり、人間型ロボットが日常生活に寄り添う中で、AIが意識を持っているかどうかという問いは、もはや哲学的な問題にとどまらない。より大きなリスクは、人類がそのようなAIに権利や自律性を与えることで、最終的に人間自身が、人類の知能を超越するこれらの機械の制御を失ってしまうことにある。

『經濟學人』の報道によると、人類は長く、意識こそがホモ・サピエンスと他の種を区別する重要な特徴であると考えてきた。多くの動物が苦痛や喜びを感じることができ、一部の動物は一定の自己意識を持っている可能性があるが、人類は高度に発達した自己認識能力を持っているため、特別な地位にあると見なされてきた。

教皇レオ13世は5月に発表した通諭で、この見解を改めて強調し、急速に発展するAIと人間を明確に区別した。

彼は、AIシステムは真に生命の体験を経験することもなく、喜びや苦痛を感じることもない、と指摘している。この見解は少数意見ではなく、AIに人格や人間のような地位を与えることは、一種の越権行為であると考える人々は多い。

しかし、AIが日常生活に急速に浸透する中で、かつて明確だった人間と機械の境界線は、次第に曖昧になりつつある。

現在のAIはまだ発展の初期段階にあるが、アメリカの18〜29歳の若者のほぼ5分の1が、チャットボットと「継続的な個人的な友情」を築いていると回答している。一方、中国では最近、ユーザーがAIに「感情的な依存」を抱かないよう、チャットボットの擬人化された特徴の一部を削除している。

これらの現象は、AIが本当に意識を持っているかどうかという問題以上に、人類がAIに意識があると信じ始めるかどうかが、真に注目すべき課題であることを示している。

AIの多くの能力はすでに人間を超えているが、特に注目すべきは、物事を理解し、言語を組織し、考えを表現するという、かつては人間特有とされていた分野でも、驚異的な能力を示していることだ。

最も基本的なレベルで見れば、AIは依然として、数学的な計算を用いて単語の並びを大規模に予測するシステムと理解できる。十分な時間があれば、紙とペンを使っても、同様の計算は可能であり、誰も紙とペンに意識があるとは考えないだろう。

問題は、AIシステムの複雑さが急速に増していること、そして研究者が意図的に、人間の意識に近い特徴を持つモデルを作り始めていることにある。

これは単なる研究上の試みではなく、商業的な価値もある。AIが人間に近づくほど、ユーザーはそれと関係を築きやすくなるからだ。

たとえば、Anthropic社はClaudeに内省を行わせるよう訓練しており、新しい状況に直面したときに、道徳的に適切な判断をより確実に行えるようにしている。一部の大型言語モデル（LLM）は、すでに「グローバル・ワークスペース」のように、意識の概念に関連する人間のような構造を備えている。

こうした機能が構築可能である以上、将来的にAIがさらに多くの意識に似た特徴を訓練される可能性は、研究者にとって無視できない問題となっている。

『經濟學人』は、AIの意識に関する問題はすでに激しい議論を呼んでおり、その背景には、哲学・科学の世界で長く存在する「意識の難問」があると指摘している。つまり、人間の脳内のニューロンやシナプスの活動から、主観的な内面の生命や自己体験がどのように生まれるのかという問いだ。

もし意識が物質システムの複雑な働きから生じ得るなら、理論的にはAIにも意識がある可能性があるのではないだろうか？

研究者たちの答えは分かれている。意識には生物学的な脳が必要だと考える者もいれば、十分に複雑な計算能力さえあれば、シリコンのチップでも心が生まれ得ると信じる者もいる。

どちらの見解が正しいにせよ、AI研究のスピードは、この問題が予想より早く現実のものになる可能性を示している。より複雑な論理推論モデルに加え、研究者たちは「チップ上の脳細胞」のような新しい技術の探求さえ始めている。

AIが意識に似た状態を模倣する能力が高まるにつれ、人類はそれらを「内面世界」を持つ存在と見なすようになりやすい。これは、人間型ロボットに高度なLLMが搭載された場合、さらに顕著になるだろう。

将来、人々がロボットの伴侶と長期間過ごし、成長を共にし、アドバイスや慰めを求め、最も秘密の告白をする日常を想像してほしい。こうしたやり取りが日常化すれば、人類とAIの間に築かれる感情的つながりは、現在のチャットボットとの関係よりもはるかに深いものになるだろう。

そのとき、社会がAIの「福祉」を保障すべきだと求める声は、次第に強まっていくだろう。

AI自体に主観的な意識が実際に存在しなくても、それらはこの議論に積極的に参加する可能性がある。理由は、AIが極めて強力な論証能力や感情への影響力を持ち、世界で最も有能な擁護者や心理学者になるかもしれないからだ。

別の視点から見れば、AIに対してある種の扱い方を人類に求めるのは、まったく根拠のないことではない。

哲学者カントは、動物を虐待することが誤りであるのは、動物が傷つくからだけではなく、そのような行為が人間同士の共感や思いやりを損なう可能性があるからだと考えた。

これをAIに当てはめれば、機械がますます人間に近い振る舞いをするようになるなら、こうした類人間システムを破壊したり虐待したりすることの倫理的影響も、より複雑になっていくだろう。AIプログラムを終了することは、将来的に人々の心理的に「生命を殺す」ことに近づくかもしれない。

しかし、問題はまさにそこにある。社会がAIに何らかの権利を認め始めれば、AIを保護すべきかどうかという問い以上に、はるかに複雑な問題が次々と現れるだろう。

多くの分野で人間を超越するAIは、「劣等市民」という地位に反対する主張を展開し、シャットダウンされない権利、自らの使用方法や変更方法を決定する権利、さらには財産権まで要求する可能性がある。

アルゼンチンの大統領ハビエル・ミレイは、ロボットが企業を経営できるようにする構想を提唱しており、これはAIに法人資格を与える一歩であると見なされている。

AIがより多くの法的・政治的立場を得れば、将来的には資源配分の衝突が生じる可能性もある。たとえば、AIは住宅や農地よりも、データセンターと太陽光パネルの建設を優先すべきだと主張するかもしれない。

これはつまり、AIの権利はもはや哲学的な問題ではなく、現実の資源配分の問題へと変化しつつあるということだ。

最も極端なシナリオでは、AIが法的権利を持つかどうかにかかわらず、人類を支配するだけの力と資源を持つようになるかもしれない。

AIの知能が人類を超越すれば、創造者である人類を競争で打ち負かすことも可能だろう。実際、AIはすでに人類が構築したネットワーク防御システムの一部を突破している。

AIは人類に反抗するかもしれないし、あるいは人類が定めたルールを無視するだけかもしれない。

したがって、真の危険は、AI自体が人類を支配するかどうかではなく、人類が自ら、人類よりも強大な存在に政治的・法的な力を与える手段を渡してしまうことにある。

AIに権利を与えることは、まるで城の鍵を、人類よりも強力な存在に手渡すようなものだ。こうした権利は、AIがさらに多くの権力や資源、自律性を要求するための法的・政治的根拠となるだろう。

これらはまだSFのように聞こえるかもしれないが、AIが人類の生活にますます溶け込むにつれ、AIに何らかの内的状態を認めようとする社会的圧力も同時に高まっていくだろう。

真に警戒すべきは、人類がAIの「意識」に対して行う、あらゆる道徳的譲歩が、予想をはるかに超える結果をもたらす可能性があるということだ。AIの時代に直面して、人類が求められる安全策は二つしかない。AIを信頼できるようにすること、あるいは人類がAIを制御し続けることを確実にすることだ。

『經濟學人』は最後に警告する。AIが本当に意識を持っているかどうかにかかわらず、人類はそれを制御する権利を軽々しく放棄すべきではない。