今年の夏から、生成AIを駆使して作成された岸田首相の偽動画がTwitter上で急速に広まる事件が発生しました。この動画では、首相に似せた声でわいせつな発言がされ、実在のテレビ局のロゴやニュース番組のスタイルが模倣されています。
監修者
kawauso 編集長（石原 昌光）
「はじめての三国志」にライターとして参画後、歴史に関する深い知識を活かし活動する編集者・ライター。現在は、日本史から世界史まで幅広いジャンルの記事を1万本以上手がける編集長に。故郷沖縄の歴史に関する勉強会を開催するなどして地域を盛り上げる活動にも精力的に取り組んでいる。FM局FMコザやFMうるまにてラジオパーソナリティを務める他、紙媒体やwebメディアでの掲載多数。大手ゲーム事業の企画立案・監修やセミナーの講師を務めるなど活躍中。
コンテンツ制作責任者
おとぼけ（田畑 雄貴）
PC関連プロダクトデザイン企業のEC運営を担当。並行してインテリア・雑貨のECを立ち上げ後、2014年2月「GMOインターネット株式会社」を通じて事業売却。その後、「はじめての三国志」を創設。現在はコンテンツ制作責任者として「わかるたのしさ」を実感して頂けることを大切にコンテンツ制作を行っている。キーワード設計からコンテンツ編集までを取り仕切るディレクションを担当。
テレビ番組風の悪質な偽装
この偽動画には、背広を着た岸田首相が画面の中央で視聴者に向けて話す様子が収められており、実在のテレビ番組のロゴやニュース番組風のテロップが使われ、首相のオンライン記者会見を模倣するように制作されています。この偽動画はニコニコ動画で公開されていましたが、11月2日にTwitterで30秒バージョンが拡散され、3日時点で232万回以上も閲覧されて大きな注目を浴びましたが、その後、投稿者が動画を削除しました。
投稿者は風刺を意図し、悪意はなかった
この偽動画を制作したのは、大阪府に住む25歳の男性で、生成AIなどのツールを使用して動画を制作し、その制作を認めています。男性は「面白いから作った」と述べ、首相の音声をベースにAIに学習させ、男性の声でわいせつな発言を録音してから、首相の声に変換しています。さらに首相の口の動きを合わせ、ニュース番組風のテロップを追加し、わずか1時間未満で動画を完成させたそうです。この男性、昨年から岸田首相のほか、安倍元首相などの偽動画を制作・投稿しており、その理由は、総理大臣は存在が広く知られていて、知名度が高いので注目を集めやすく、笑いを提供する風刺の目的で制作したと語っています。
名誉毀損の懸念も
日本の著作権法では、著作物をAIに学習させることが基本的に認められています。しかし、著作権者からの抗議を受けているほか、大量のデータを学習した生成AIを悪用することで、簡単に偽情報を生成できる可能性があるため、社会的な混乱の懸念が生じています。また、今回のように実在の人物に不名誉な発言をさせた動画を広めると、名誉毀損などの法的問題が発生する可能性もあります。実際、今回の岸田首相の偽動画は、非常に短時間で制作されたとされ、政治家を中傷する目的でフェイク動画が制作された場合、影響は非常に深刻になる可能性があります。
海外では既に偽動画が問題視
海外では、バイデン大統領やトランプ大統領の偽動画が制作され、大きな混乱を引き起こしています。今回の大規模な拡散は、Twitterの情報発信力を利用したものとも考えられ、このような偽動画をブロックする仕組みが必要になる可能性があります。
▼こちらもどうぞ
