観点投書：AIが変えるのは技術、刑法の謙抑性ではない

最近、AIを使って政治家の声を合成した動画が物議を醸しており、社会的な議論は内容そのものから、警察が制作者の自宅を訪れて調査したことが表現の自由にどのような影響を与えるかにまで広がっている。報道によると、警察は通報を受け、AIのディープフェイク技術を使って大統領の声を合成した可能性のある動画について事実関係と制作経緯の確認を行った。この際、捜索や差押え、あるいは身柄を拘束するような強制措置は取られていない。一方で、制作者側は、創作活動に対する警察の関与が「水道検針」のような抑圧的な効果（寒蝉効果）を生んでいると主張している。

この一件は個別の事案を超えて、国家権力の行使の境界線にまで踏み込んでおり、大きな意味を持つ。政府が違法の疑いのあるAIコンテンツについて事実確認を行うことは可能であり、一方で、個人が技術的な創作を理由に法的検証から完全に免れることもできない。しかし、刑事手続の発動は、あくまで具体的な犯罪の疑いと法益侵害が前提でなければならない。法律的な評価がまだ行われていない段階で、政治的なセンシティブさや世論の圧力によって言論や創作活動に早期介入すれば、刑法が「最後の手段」としての位置づけを失い、次第にその基準が緩んでしまう恐れがある。

刑罰権の適用範囲が、犯罪への対応から、社会的な論争や政治的対立の調整へと広がれば、法治国家が公的権力に対して設けた制限が新たな試練に直面することになる。本件において議論の中心となるべきは、AI技術を使ったかどうかではなく、その行為が刑法の介入に値するほど重大な影響を持つかどうかである。

AIによる音声合成自体は違法ではない。技術はあくまで情報の創作や伝達のためのツールにすぎない。法律が判断すべきなのは、その使用方法とそれがもたらす結果である。たとえば、一般の視聴者が本物の発言と誤認するほど精巧な内容かどうか、また、公共の信用、名誉、その他の法的に保護される利益を侵害しているかが問題となる。

もし内容が政治的評論、パロディ、風刺、または二次創作に過ぎず、視聴者がそれが創作であると認識できる形で表現されているならば、原則として表現の自由の保障下にあると考えられる。民主社会では、鋭い、誇張された、あるいは不快に感じるような政治的表現も許容される。公的権力を握る者に対する批判や風刺は、憲法上、特に高い保護を受けるべきものである。内容が不快かどうかは、刑法が介入する理由にはならない。

一方で、AIによって生成されたコンテンツが、政治家や政府機関の公式発言と誤認されるほど信頼性を持ち、社会の判断に影響を与える重要な情報を流布する場合、状況は一変する。たとえば、大統領や首相、警察、災害対応機関の声を偽造し、社会の判断を混乱させるような情報を広めれば、個人の名誉だけでなく、公共の情報秩序、政府の信頼性、選挙の公正性、社会全体の信頼が損なわれる。

したがって、法律が介入する理由は、政治家の声を真似たことそのものではなく、他人の身分を利用して真偽を混同させる情報を作り出し、具体的な法的被害を生じさせたかどうかにある。法律的な評価は、常に行為そのものとその結果に焦点を当てるべきであり、創作の対象が政治的立場にあるかどうかや権力の有無は、判断の基準とはならない。

警察が通報を受けた後に事実確認を行うことは、刑事手続上あり得ることである。しかし、その手続きが比例原則に合致しているかは、捜索や差押え、呼び出しといった形式的な措置の有無だけではなく、公的権力の介入が実際にどのような影響をもたらしたかを観察しなければならない。刑事警察が個人宅を訪問することは、国家権力の象徴として非常に強い印象を与える。多くの人々にとって、協力的な事実確認、事情聴取、正式な刑事捜査の違いを即座に区別することは難しい。

犯罪が成立しているかどうかもまだ法律的に判断されていない段階で、刑事手続がすでに創作者の生活空間にまで入り込んでいる。このような状況では、多くの人が、議論を呼ぶような内容を今後も発表し続ける価値があるのかどうかを再考せざるを得なくなる。

寒蝉効果の真の影響は、実際に誰かが処罰されることよりも、公共の議論の範囲が静かに狭まっていくことにある。創作者が、「この批判は公にしないほうがいい」「この政治的テーマは触れないほうがいい」「この作品は発表しないほうがいい」と考えるようになる。たとえ裁判や処分がなくても、自己検閲が先に起こるのである。

法治国家が目指すのは、国家が人々を不当に処罰しないことだけではなく、法的に違法でない段階で、不必要な手続き上の圧力によって人々が自ら発言を控えるような状況を避けることでもある。特に政治的言論に関しては、手続きそのものが内容検閲の延長と見なされないよう、極めて慎重であるべきだ。

もちろん、表現の自由が法律の適用を完全に排除する絶対的な理由になるわけではない。もしAI生成コンテンツすべてに対して法的責任を免除すれば、ディープフェイク技術は詐欺、フェイクニュース、公的権力のなりすましなどに悪用されやすくなるだろう。民主社会は表現の自由を保障する一方で、公共の信頼も守らなければならない。

政策批判にすぎない創作は、表現が鋭く、風刺的であっても、憲法によって保護されるべきである。一方で、ディープフェイク技術を使って公的機関の身分を偽り、真偽を混同させる情報を流布し、公共の信頼を損なった場合には、当然ながら法律による規制が必要となる。

ここで節度を保つべきなのは、国家の刑罰権の行使である。人々の言論はそもそも不快なものであり、鋭く、誇張され、風刺的で、批判的であることが多くある。民主制度の成熟は、すべての発言が共感されるかどうかではなく、議論を呼ぶような表現に直面しても、国家が法治が定めた境界線を守り、軽々に刑事権力を発動しないことにある。

AI技術は情報の生成方法を変えたが、刑法が介入する境界線を変えたわけではない。技術がどれほど進化しても、刑罰権の発動は、具体的な犯罪の疑い、法益侵害、犯罪構成要件に基づくべきであり、事件の政治的センシティブさや世論の風向きによって決まるべきではない。

＊著者は法律および情報セキュリティ分野の大学非常勤講師