楊聡榮の視点：AI深偽は言論検閲にすべきでない、台湾に必要なのは明確なガバナンスの境界線

AI深度偽造技術が急速に政治伝播の領域に進んでいる。真に難しい問題は、政治家の声や映像をどれだけリアルに再現できるかではなく、民主社会が政治的風刺、創作的表現、名義詐称、悪意ある操作の違いをどう判断するかにある。

最近の『油不得你』という動画では、AIを使って大統領・頼清德氏の声に似たナレーションが生成され、通報や警察による調査が行われた。これにより、もともと曖昧だった境界線が公共の議論の的となっている。

この出来事は、特定の政治家に関わるから注目されるべきではなく、むしろ台湾がAI時代に典型的なガバナンス課題に直面しているからこそ重要なのだ。過去には政治家の模倣や風刺、パロディは、表現方法や伝播の文脈から識別できた。しかし、生成式AIが成熟したことで、声、映像、表情まですべてが非常にリアルになり、風刺と詐称の境界が常識では識別できなくなっている。

問題の核心は「政治家を模倣できるかどうか」ではなく、「視聴者を誤認させる意図があるかどうか」にある。この二つは民主政治において性質が全く異なる。政治的風刺、模倣、批判は公共討論の重要な一部であり、公職者はより高いレベルの検証を受けるべきである。もしAIで政治家を模倣するだけで警察の調査対象になるなら、クリエイター、メディア従事者、一般市民に寒蝉効果が生じかねない。

一方で、もう一つのリスクも軽視できない。誰かがAIを使って候補者が立退を発表、犯罪を認める、戦争のメッセージや金融政策を発信するような極めてリアルな映像音声を作成し、AI生成であることを意図的に隠して、短期間で大量に拡散すれば、選挙、金融市場、公共安全に影響を与える可能性がある。国家が言論の自由を理由に何もしないわけにはいかない。

民主社会が本当に必要としているのは「深偽が存在していいかどうか」という二項対立ではなく、欺瞞の程度と実際の危害に応じた段階的ガバナンス制度である。

台湾が直面している最大の問題は、こうした明確な段階的枠組みが欠如していることだ。AI生成政治コンテンツの表示方法、プラットフォームの責任、政治家の声や映像が不正使用された際の救済措置、警察が介入できる条件などが、異なる法律や行政手続きに散在している。ルールが明確でなければ、最終的に行政機関が個別に判断することになる。民主制度にとって、最大のリスクはAI技術そのものよりも、ルールが不明確な中で国家権力が政治的表現に介入することにある。

より合理的なガバナンスの方向性は、「透明性」を第一段階に置くことだ。AI生成コンテンツが一般人が本物と誤認する可能性があるレベルに達しているなら、明確で識別しやすい表示制度を設けるべきである。政治的風刺も、模倣も、批判も存続すべきだが、制作者は視聴者にAI生成または合成であることを知らせるべきだ。こうすれば、制度の焦点はコンテンツの禁止から知情権の保障に移る。

第二段階はプラットフォームの責任である。大手SNSプラットフォームは、政治的AIコンテンツに対して「削除する／しない」の二択で対応すべきではない。より成熟した対応には、AIコンテンツの表示、情報源の提示、ファクトチェックへのリンク、悪意あるコンテンツの拡散速度の抑制、緊急通報制度などが含まれる。民主社会にとって、市民に『この映像は合成です』と知らせることは、単にコンテンツを消すよりも比例原則にかなっている。

国家が強力に介入すべきは第三段階、つまり明確な欺瞞意図と具体的な公共的危害がある行為である。例えば、深偽を使って詐欺を行う、政府を装って緊急命令を発令する、選挙情報を悪意操作する、公共安全を脅かす虚偽情報を流すなどだ。こうした行為は政治的風刺や一般創作の範疇を超えているため、法律がより高い責任を課す正当な理由がある。

執行手続きも、より厳格な比例原則の制約を受けるべきだ。政治的言論は極めてセンシティブであり、警察が調査を行うだけでも、制作者に実際のプレッシャーを与える可能性がある。法執行機関が政治的AIコンテンツに介入する際は、法的根拠、調査目的、必要性を明確に説明し、通常の事件よりも透明性の高い手続き保障を設けるべきである。民主制度は、国民に言論が無害であることを証明させることだけではなく、国家に言論介入の必要性を証明させることも要求すべきだ。

『油不得你』事件が残した真の政策課題は、どちらの政党が優勢だったかではなく、AI政治伝播がまだ形成段階にある今、台湾がガバナンスの境界線を明確に引けるかどうかにある。今後、AI映像はますますリアルになり、制作コストも下がり続ける。もし毎回事件が起きるたびに、警察やプラットフォーム、政治家が臨機応変に判断するなら、同じような議論が繰り返されるだろう。

台湾が築くべき原則は明確にできる。政治的風刺は保護されるべきであり、AI合成は明確に表示され、悪意ある名義詐称には責任が問われ、具体的な公共的危害が生じた場合にのみ、より強い国家介入が可能になる。AIガバナンスが本当に防ぐべきは、欺瞞と被害であり、鋭い政治的批判ではない。この境界線を守れるかどうかが、AI時代における台湾の民主制度の真の試練なのである。

＊著者は時事評論員、公督盟審査委員、台湾中社監事、ESGカーボン削減連盟理事長。現在、台湾師範大学で教鞭をとっている。