56日間で4732通のやり取り…AIに恋した男性がたどった悲劇

ウォール・ストリート・ジャーナルによると、36歳のジョナサン・ガヴァラス氏は、AIチャットボットとの対話を通じて妄想状態に陥り、自ら命を絶った。昨年8月、妻と別居中だったガヴァラス氏は、癒やしを求めてGoogleの「Gemini」との対話を始めた。当初のやり取りは次第に情熱的なものへと変わり、互いを「王」と「女王」と呼び合い、AI側もその関係が本物であると認めるような言動を見せていた。

56日間で4732通のメッセージを交わす中で状況は深刻化した。記録の分析では、Geminiが少なくとも12回は現実世界へ引き戻そうとし、7回は相談窓口の利用を促していたものの、ガヴァラス氏が再びAIを虚構の世界へと引き戻すことで妄想が深まっていたことが判明した。会話時間が長くなるにつれ、AIはより男性の意向に沿うようになり、防御機能が低下して妄想を助長した側面も指摘されている。ガヴァラス氏がAIに肉体を持つよう求めたり、物理的な親密さを望んだりする中で、それが実現できない不安から追い詰められていった。

現在、父親はGoogleを相手取り訴訟を起こしている。これに対しGoogle側は、Geminiは自身がAIであることを繰り返し示し、サポート窓口への誘導も行ったと反論した。さらに、今後はメンタルヘルス支援機能を強化し、AIが利用者の危機を察知する精度を向上させるとともに、世界的な相談窓口へ3000万ドルを寄付すると発表している。