AI偽造で蔣萬安の声を模倣し「蔣家は殺人魔」と発言　黄偉哲「深偽技術で国民を騙すのは避けたい」

国民党新メディア部前主任の韋淳祐氏が制作した『油不得你』動画が、AI深偽技術で賴清德大統領の声を模倣したとして物議を醸しています。これに対し、台南市長の黄偉哲は31日、記者会見でAI深偽技術を用いて台北市長・蔣萬安の声を模倣した音声ファイルを公開しました。その中には『台湾人は常に蒋家の殺人魔的行為を覚えている。独裁的な暴行は歴史によって厳しく裁かれるだろう。家系の特権を享受する子孫に良い末路はないと』という発言が含まれています。

黄偉哲は、民進党の立法委員・王定宇に同行されながら記者会見を開き、AI技術で他人の声を模倣する宣伝映像に関する司法捜査について、蔣萬安がこれを『政治的追放』や『国家暴力』と表現したことに遺憾を表明しました。警察・検察が犯罪容疑を捜査するのは、法治国家の基本原則であると強調しました。

黄偉哲は、AI技術を用いて許可なく他人の声を模倣することは、『刑法』や『個人情報保護法』、そして人格権の保護に抵触する可能性があると指摘。AIの倫理的境界線にも関わると述べました。社会がAIによる声のなりすましを容認すれば、政府によるAI詐欺防止の取り組みが弱体化する恐れがあると警告しています。

蔣萬安が『動画にAI使用を明記しているため、文書偽造には当たらない』と主張したことに対し、黄偉哲は『声は個人の重要な識別特徴であり、人格権の保護対象である。AI使用の明記の有無に関わらず、法的責任の有無は司法機関が判断すべきだ』と反論しました。

黄偉哲は、このような深偽コンテンツが社会を毒し、国民を騙すことを本当に望まないとし、蔣萬安に対して政治目的のためにAI深偽映像や音声を支持しないよう強く呼びかけました。

記者会見では、蔣萬安の音声を模倣した4つの音声ファイルが再生されました。そのうち3つはAI深偽技術で生成されたものです。

第1の音声では、『毒油事件が発生してから1か月が経過したが、政府はまだ国民に明確に説明できていない。なぜ毒油事件が起きたのか、なぜ3週間も経ってから調査チームが設置されたのか、21日後になってようやく現場調査に入ったのか、なぜ最初に証拠を保全しなかったのか。賴清德大統領は謝罪すべきではないのか。卓榮泰総院長は辞任すべきではないのか。2014年のデグー油事件では全国39の学校が影響を受けたが、今回は1380校以上に及んでおり、35倍の規模だ』と述べています。

第2の音声では、『祖父や曾祖父がそう言っていたが、本当に自分の先祖かどうかは分からない。だが、誰かが私が「蒋」という姓を持っていると信じてくれればそれでよい。祖父はこう言った。228事件や白色テロは、台湾人を屈服させ、蒋家が台湾を永遠に支配するために用いた手段の一つだった。蒋家の人間が政治に参加しないというのは、すべて嘘だ』と語っています。

第3の音声では、『蒋介石は中国を失い、国共内戦で無数の中国人を殺害した。228事件の元凶も彼だ。蒋家は何世代にもわたって台湾の民主主義の障害となってきた』と発言しています。

第4の音声では、『蒋家の子孫に良い末路はない。真実と正義を求め、権威主義を徹底的に国民の審判にさらすべきだ。我々は228事件と白色テロの血と涙にうんざりしている。台湾人は常に蒋家の殺人魔的行為を覚えている。独裁的な暴行は歴史によって厳しく裁かれるだろう。家系の特権を享受する子孫に良い末路はない』と述べています。

黄偉哲は、蔣萬安は法律家であり、元立法委員でもあり、首都の市長でもあるため、一般人よりも法律知識があるはずだと指摘。そのため、犯罪行為を支持するのをやめ、AI深偽技術の乱用を助長する『ヴォルデモート』のような存在になってはならないと訴えました。

関連報道： ・黄偉哲の記者会見で3つの蔣萬安深偽音声が再生。殷瑋は『検察が彼を捜査するだろう』と皮肉った。 ・『油不得你事件』で警察が家宅捜索。深偽検証は3日で完了？韋淳祐氏が『鄭文燦の宿泊疑惑映像』と比較し3つの疑問を提起。 ・刑事局が介入！『ライアースクール長』の運営者がAIで賴清德の声を偽造した疑い。劉世芳氏は『どの政党でも違法行為があれば捜査を支持する』と表明。