Google EarthのAI生成画像機能、虚偽情報拡散の恐れで緊急停止

Googleは、Google Earthに人工知能（AI）による画像生成機能を導入してから48時間以内に、そのサービスを一時停止すると発表しました。これは、安全性を強化するための措置です。専門家は、このツールを使えば架空のシーンを実際の衛星画像や航空写真、三次元地図の上に重ねることができ、誤った情報を広めるのに利用される可能性があると警告しています。

英国の『BBC』の報道によると、この新機能はGoogleの画像生成AI「Nano Banana 2」をGoogle Earthに統合したものです。ユーザーは、テキストの指示を入力するだけで、実際の衛星画像や航空写真、3Dマップ上に架空のシーンを生成でき、それをダウンロードして他のプラットフォームに共有することも可能でした。

『BBC』の検証チームは実際にテストを行い、エッフェル塔が倒壊した様子や、巨大な地割れがエジプトのピラミッドを飲み込む光景、キエフにロシア軍の戦車が出現するといった虚偽の画像を成功裏に生成しました。

専門家は指摘します。虚構のコンテンツが実際の地理座標とGoogle Earthのベースマップと組み合わさることで、まるで信頼できる衛星データからの画像であるかのように見せかけることができると。特に戦争や自然災害など、情報が錯綜する時期には、このような画像が記者や一般市民を誤解させる恐れがあるとされています。

Googleは、AIによって生成された画像には目に見えない透かしが含まれており、GeminiやGoogle Lensを使って確認できると説明しています。しかし、『BBC』のテストでは、こうした検証メカニズムを回避できる場合があり、外部の検出ツールでは偽の画像を識別できないこともあったと報告されています。