もう一度転送しないで！BBCが分析する「AI偽医師」の真実：台湾の高齢者が最も視聴、YouTubeが誤情報の温床に

台北市にある高齢者向けデイサービスの教室では、平均年齢80歳近い利用者たちがスマートフォンの画面に集中していた。画面には白いコートを着て聴診器を首にかけた「鄭医師」と名乗る男性が映り、落ち着いた口調で『高齢者の筋肉減少症』について語り、60歳以降はタンパク質を摂っても効果がないと主張していた。この動画は、在籍する何一清さんにとって見慣れたものだった。友人から共有され、自分も何気なくグループに転送した経験がある。しかし、この日は初めて違う視点で動画を見た。彼が先日ダウンロードしたAIアシスタントのGeminiとChatGPTは、この『鄭医師』は実在せず、人物像もAIで生成されたものであり、内容もAIがネット上の情報を組み合わせて作り出した虚実入り混じった健康情報だと教えてくれた。「毎日、グループにたくさんの動画を送っているけど、今になって気づいた。一部は本当じゃないんだと。」何さんはBBC中文に語った。

『AI医師』の出現

81歳の何さんは、この日、高齢者向けに開かれたスマホアプリ講座に参加していた。講師は、GeminiやChatGPTを使って旅行計画を立てたり、健康診断結果を分析したりする方法を教え、参加者に普段よく見るAI動画をアップロードし、その情報の真偽をAIに尋ねるよう指示した。授業を行ったコミュニティカレッジの李子強教師は、BBC中文に対し、ここ1年ほどでAI生成動画が台湾の高齢者コミュニティやメッセージアプリのグループで広く流布しており、警戒を強めていると語った。特に多いのは、「医師」や「専門家」と称するバーチャル人物が登場し、視聴者に情報を伝える形式の動画だ。「内容はとても重要そうに聞こえ、生活に密着しているが、よく聞いてみると、本当に正しいのか、それとも作り話なのか、疑問が湧いてくる。」

台湾ファクトチェックセンターは今年、こうした動画が情報環境に与える深刻な影響を明らかにした。同センターの陳偉婷編集長は、最近、コンテンツファームが運営するYouTubeチャンネルが急増しており、動画には仮想のニュースキャスターや人物が登場し、「医師」「元台湾鉄道職員」「元客室乗務員」と名乗っていると指摘した。これらの動画は、高齢者が関心を持つ健康情報を「医師」として発信するだけでなく、実際には存在しない『高齢者向け福祉政策』も宣伝している。例えば、新幹線のチケットが自動でビジネスクラスにアップグレードされたり、同伴者は無料で乗車できたり、政府が現金を配布したり、入院時に無料の介護が受けられると主張し、多くの高齢者が駅に問い合わせる事態を引き起こしている。今年、台湾鉄道と台湾高速鉄道は複数回声明を出し、「高齢者特別割引」や「隠れた優待」はすべて虚偽であると明確に否定した。

『特に中高年層をターゲットにしている』

授業に参加した高齢者の多くは、こうしたAI動画の視聴者だった。ある受講者は、動画で紹介された優待を信じて実際に新幹線に乗ったが、その待遇は受けられなかったと明かした。別の受講者で86歳の王富美さんは、以前は親戚や友人が送ってきた情報をすべて信じ、何度も転送していたが、それがAIで作られた『偽動画』だと知って「だまされた」と感じたと語った。「人に対して少し疑うようになってしまった。AIの時代、人はあまり楽しく生きられないかもしれない。」

こうした動画はYouTube上で「AI制作」と表示されていることが多いが、多くの高齢者はその表示に気づかない。YouTubeの親会社であるGoogleは、動画共有プラットフォームのルールはAI生成コンテンツにも適用され、重大な現実的被害を引き起こす可能性のある医療に関する虚偽情報は禁止していると述べている。台湾情報通信安全研究院の研究員、戴毓辰氏は、BBC中文に対し、こうした動画の影響が台湾人の日常生活に深く浸透していると語った。彼が追跡している200以上のYouTubeチャンネルでは、7万本以上の動画が投稿され、累計視聴回数は13.2億回に達している。これは台湾全人口が1人あたり平均60回視聴したことになる。彼の分析では、これらの動画はほぼすべてAIで生成されており、極めて低コストで大量に作成されている。まずAIで「医師」や「専門家」の顔と背景を作成し、音声データと口の動きを同期させる。最新のツールを使えば、わずか20秒で1本の動画が完成するという。さらに、動画の内容はAIがネット上の素材を自動検索・組み立て、字幕もAIで自動生成される。制作者は専門知識や編集技術を必要とせず、短時間で一見完成された動画を作れる。

戴氏は、こうしたチャンネルの動画テーマは医療・健康、退職生活、科学解説、宗教などに集中しており、「特に中高年層をターゲットにしている」と強調した。キャラクターのイメージがリアルで、内容が生活に密着しているため、視聴者は画面の中の人物が実在すると思い込みやすい。コミュニティカレッジの李子強教師も、こうしたAI動画が「権威ある専門家」を通じて情報を発信するため、高齢者からの信頼を得やすく、内容も彼らの関心に合っていると指摘する。「健康問題は彼らが最も気にしていることで、各種割引や交通チケットの優待など、お金に関わる情報には特に敏感です。」

高齢者の心理的ニーズを埋める

高齢者の何一清さんは、自分が誤情報の被害者になるとは思ってもみなかった。彼はかつて新聞業界で働いており、定年後も新しい知識を得て共有することを楽しんでおり、毎日5時間以上かけて、メッセージアプリで友人から共有された動画や音声を視聴し、転送している。彼が受け取る情報は医療、生活知識、社会問題など多岐にわたる。就寝前にはそれらを分類整理し、翌朝1～2時間かけて一つ一つ転送している。この生活スタイルは3年間続き、固定された日常となっている。「こうすることで頭の体操になるし、新しい知識も得られて、友達もたくさんできます。」と何さんは言う。彼は一度に50人以上の友人に転送するが、返信は半数以下にとどまる。それでも、人とつながっている気持ちになれるのだという。ここ数年、孫の世話のために社交活動や社交ダンスの練習の時間が減り、生活に余裕ができた。

「AI動画の中には、プーチンやトランプを真似たコメディ動画など、明らかに偽物とわかるものもある。」と彼は語る。授業を受けてからは、動画の真偽を必ず確認するようになり、グループの友人たちに「これは本当じゃないよ」と注意を促している。

台北振興病院精神医学部の主治医で、高齢者精神医学を専門とする袁瑋医師は、BBC中文に対し、多くのAI健康動画は高齢者の『不安』に狙いを定めて設計されていると指摘する。年齢を重ねるにつれ、さまざまな病気が蓄積され、無力感やコントロールを失った感覚が強まる。こうした動画は、具体的な解決策を提示することで、高齢者が「何かできる」と感じさせ、不安を抑え、再びコントロール感を取り戻す手助けをするという。「動画を転送すること自体も、一種の社会的つながりです。高齢者は身体的な問題や軽度の認知機能の低下により、活動の計画が難しくなり、外の世界との交流が減ります。一方で、スマホの操作はハードルが低く、関心を示すだけでなく、反応があれば嬉しくなり、『見られている』と感じ、自分は他人を助けているとさえ思うのです。」

コミュニティカレッジの李子強教師は、多くの高齢者にとってAI動画は『付き添い』や『時間つぶし』の役割を果たしていると補足する。若者が短い動画を好むのに対し、高齢者は20分以上続く動画をよく視聴し、『ラジオ』のように常時再生して、日常の空白を埋めている。

政治的目的はあるのか？

こうしたAI動画の影響力が高まるにつれ、その背後の出所への関心も高まっている。情報セキュリティ研究者の戴毓辰氏は、彼が監視しているYouTubeチャンネルの多くは、運営者の実態が把握できず、チャンネルの登録地は台湾や世界各国にまたがり、7～8つのロボットアカウントが同一のプロフィールで作成されているケースもあると指摘する。彼によれば、こうしたチャンネルは大量の動画を作成してトラフィックを獲得し、広告収益を得ることが目的のようだが、それが最終目的かどうかは不明だ。過去の研究では、従来のネット上のコンテンツファームの多くが、ネット軍（ウェブアーミー）によって運営されており、必要に応じて政治的議題を投入して特定の目的に奉仕していることが明らかになっている。「私にとってこうしたチャンネルの多くは高リスクであり、監視が必要です。スタイルを変えれば、アルゴリズムの推薦によって大量の高齢者に届く可能性があるからです。」

2024年、台湾の政治学者・王宏恩氏は、中国の企業が複数の香港アカウントを管理し、政治的でない生活・健康系のFacebookページを開設して日常的な投稿でトラフィックを集め、その中に政治的宣伝や認知作戦を混ぜ込み、台湾の大統領選挙に介入したとする研究を発表した。BBC中文も、購読者数の多い関連チャンネル20件を対象に、背後の運営者を追跡したが、いずれのチャンネルも運営者名や情報を開示しておらず、開設時期もまちまちで、登録地は台湾、米国、マレーシア、香港などに分かれていた。一部のチャンネルはプラットフォームの利用規約に違反したとしてすでに削除されている。

匿名の台湾国家安全関係者は、BBC中文に対し、過去1年間で、こうした健康・生活情報のAI動画チャンネルが選挙期間中に特定候補者を支持する内容に切り替わった事例を台湾が観測したと語った。台湾の年末地方選挙を前に、最近ではいくつかのチャンネルが『中国との統一の方が良い』という発言を広め始めていることも確認されている。中国の国台弁公室は、台湾選挙への介入や認知作戦に関する外部の議論に対し、繰り返し否定しており、民進党政府こそが『認知作戦』の操り手だと主張している。FactLinkデジタルリテラシー研究所の創設者・陳慧敏氏は、BBC中文に対し、こうした動画は現在非常に注目されており、背後に特定の操作があるかどうかが疑問視されていると語った。選挙が近づく中、特に注意を払うべきだと指摘する。彼女は、悪意ある操作の証拠がなくても、こうした動画自体は『AIスロップ（AI餿水）』——粗悪で情報価値の低いが大量に生成されるコンテンツ——に該当すると述べた。