【生成AIにて岸田首相の偽動画がSNS拡散】今後も起こるのでは？

生成AIを使って岸田総理大臣の声を再現したとみられる偽の動画がSNSで広がっている。今後もこのようなことが起こらないか危惧しているので今回の拡散についてまとめてみた。

けっしてこのようなAI生成は真似しないように！
人としてのモラルを守りましょう。

岸田首相の偽動画SNSで拡散される

民放のニュース番組に似せた字幕などもつけられ、番組に似せられた日本テレビは「フェイク動画」だとして注意を呼びかけて話題になっている。

この偽動画は、岸田総理大臣が卑わいな言葉などを発言しているかのようにみせかけた内容で、生成AIを使って声や口元の動きは加工されている。

この手の画像や動画は以前からもたびたび投稿されていた。今回大きなニュースになったのは、拡散されたことが大きい。

今後も似たようなことが増える

回転寿司店で起こった迷惑動画でも同様に今後も起こらないか危惧される。
「こういうことはしてはいけませんよ」という分かりやすい罰則が明確に提示されないと、今後も増える可能性が高い。

また日本は現在の段階で生成AIを積極的に活用していく方針だ。

世界的にも問題になるフェイク動画

ウクライナや中国でも、フェイク動画やフェイクニュースがたびたび拡散され話題になっている。
EUではAI生成を含む包括的な規制案「AI規制法」によりAIを規制する動きもある。
日本では原則としてAIウェルカムのようだ。

テレビが避難できるわけではないという声も

現実にニュース報道を大きく扱うか小さく扱うかを大手メディアが操作してきたのは事実だ。
ただ当然のことながら、一般ユーザーなら何をやってもいいわけではない。

ユーザーが面白いや拡散を追求する

「とにかく面白い動画」
「とにかく拡散」
などの目的でひたすら拡散を目的に画像や動画を生成すると、今回のように大事（おおごと）になってしまう。

なぜ今回の動画は拡散されたのか？

拡散された大きな要因としては、この動画を見た人たちが「面白い」と感じた人たちもいたからだろう。卑猥なことを発言させているのも拡散された要因として大きい。

人によっては「どこが面白いの？」となる人もいることだろう。

幼稚な内容であっても面白いと感じる人がいるのも事実なのだ。

日テレのロゴがなければ？

画面右上のロゴを編集し加工してから拡散された場合でも、大きな問題になっていた可能性が高い。ただし日本テレビが「フェイク動画」だと注意を呼びかけたことで、さらに大きなニュースになった。

まるでテレビ局が配信したように見えるので、注意を呼びかけるしかないとも言える。放置していると問い合わせが殺到していたことだろう。すでに問い合わせが殺到していたため、今回の注意呼びかけに発展した可能性もある。

まとめ

AIチャットサービスの「Chat GPT」やAI画像生成など日本でも、多くのAI関連企業が開発、サービス提供している。
現在の状況において規制をかけるのは困難な状況だ。

困難どころかいかに日本をAI立国にしていくかが進んでいる。
それはつまり今後も、今回のような事例が増えていくことになると言える。

1人1人のリテラシーやモラルが求められるが、一方で生成AIの精度がどんどん上がっていくだろう。
上手く活用できれば良いが、悪い活用も増えそうなのが心配だ。