AI映像生成ツールVeo 3で生成されたカナダのCBCニュース速報としての映像。ニュースアンカーによりアルバータの山火事が拡大しているとの報道が行われる。彼女の背後の地図には火の手がカナダ中央部に拡がっている様子が映し出されている。リポーターが現地との接続を行い、背景では緊急警報が鳴り響いている。しかしこの画面の内容は全て偽物で、実際の報道ではなく、Googleが開発したAI映像生成ツール「Veo 3」で作成されたものである。
CBCはAI映像技術の威力を示すため、このコンテンツを作成した。その目的は虚偽情報がどれほど精巧に作られるかを示すことにあった。映像は視聴者に本物に見える上、既存のAIコンテンツでよく見られる不自然な場面や欠陥は一切なかった。専門家によると、Veo 3は音声、音響効果、影、質感といった物理的要素さえも実際のように実装できるとのこと。このような偽りを現実のように構成できるツールが一般ユーザーにも開放されている状況だ。
Veo 3は発売直後からオンラインで広がった。発売初週だけで、有名人の偽死亡ニュースや、政治家の記者会見を改ざんした映像、選挙場面を操作したコンテンツが複数の言語で作成された。これらの映像は短時間で数万人に到達し、いくつかはメディアやSNSで実際のニュースと誤解された。
英国チューリング研究所は最近の報告書で「AI映像は真実と虚偽の境界を崩しており、その影響は一過性ではなく累積的である」と発表した。この報告書では実際の選挙過程でAIにより制作されたパロディ映像が報道や候補者の発言と区別がつかなかった事例を指摘している。カナダ・トロントメトロポリタン大学のアンジェラ・ミスリ教授は「AIによって作られた虚偽の現実が繰り返されると、人々は結局、何も信頼しなくなる」と警告した。
ディープフェイク技術への警告は既に以前からあった。しかし既存の検出システムは、精密なAIコンテンツの前ではますます無力化している。物理的な誤り、口の動きの不一致、不自然な背景などは過去には映像操作を識別する手掛かりだった。しかしVeo 3はこれら全ての弱点を補い、検出の基準自体を無力化した。
米国シラキュース大学のニーナ・ブラウン教授は「AIが作り出した映像は視聴者の感覚を騙し、メディア消費者の批判的思考さえも鈍らせる」とし、「偽映像が繰り返されると、大衆は『何を信じるべきか』と混乱に陥る」と述べた。
アメリカ議会は2025年4月、非同意ディープフェイク性的コンテンツを犯罪として規定する「テイク・イット・ダウン（Take It Down）」法案を通過させた。しかし、政治、社会、保健など公共情報操作に対する包括的規制はまだ整備されていない。欧州連合もデジタルサービス法（DSA）を通じてAIコンテンツに対する透明性を要求しているが、実際の適用は遅く、地域別の差も大きい。
技術監視団体であるアダ・ラブレス研究所は「現行の技術的保護措置だけでは偽情報の拡散を防ぐのは難しい」と分析した。ジュリア・スマックマン研究員は「AI映像は感性、視覚、音響まで刺激するため、既存の言葉のフィルタリングやアルゴリズムの警告では限界が明らかだ」と述べた。
偽映像の拡散を防ぐためのソリューションも議論されている。核心は「デジタル信頼」の回復である。まず、映像コンテンツにAI生成の有無を自動表示する「デジタルウォーターマーキング」技術が提案されている。メタ、マイクロソフトなどはAIコンテンツに「オリジンタグ（origin tag）」を付ける共通基準を導入中である。しかしまだ強制力がなく、全てのプラットフォームに適用されているわけではない。
メディアとSNSプラットフォームの役割も重要だ。コンテンツ流通段階でAI生成物の有無を検知し、事実関係の結果を視聴者に明確に知らせる体制が必要だ。カナダCBCはAI映像制作実験と同時に視聴者教育プログラムを併行している。学生や教師、一般人を対象に虚偽情報の判別教育を進め、AI技術の両面性についての公開討論を促している。
技術的防御に加え、メディアの信頼回復と市民の情報解釈能力の強化が同時に行われるべきだ。アンジェラ・ミスリ教授は「AIが作る脅威に対抗するには市民教育、メディア倫理、技術規制が同時に機能しなければならない」と強調した。
偽ニュースは新しい現象ではない。しかし人工知能は偽を本物のようにし、本物を偽物と誤認させている。真実を守るための技術、制度、市民監視のバランスがこの上なく必要な時期である。