AI技術におけるフェイク情報の拡散とその対策

2023.11.08

AI技術の進歩と拡がりは、情報技術の領域で革新的な変化をもたらしています。しかし、その一方で、フェイク情報の拡散という深刻な問題も生じています。
最新の研究や事件を通じて、この問題の実態が徐々に明らかになってきています。

先日福岡市で開催された「コンピュータセキュリティシンポジウム2023」では、AI技術の活用とフェイク情報の拡散についての最新研究が発表されました。
シンポジウムでは、食用コオロギのパウダーを使ったパンの事例や人気アニメの声優を模した音声がAIで作成されるケースなど、フェイク情報の拡散がどのようにして社会に影響を与えているかについて報告が行われました。

一方、生成AIは、画像やテキストを簡単に作成することができる技術として知られています。
しかし、この技術がフェイク情報の拡散に利用されるリスクも高まっています。
例えば、アメリカ国防総省付近で爆発が起きたとするフェイク画像がSNSで拡散された事例では、この画像が生成AIによって作成されたものであるとされています。
この画像の拡散により、一時的にニューヨーク株式市場のダウ平均株価が100ドル以上下落するなど、社会に混乱が生じました。

また、台湾でAI技術を使用して偽情報の拡散傾向を研究する団体「Taiwan AI Labs」は、SNSや掲示板で偽情報を拡散させるアカウントを発見しました。
これらのアカウントは、AIで生成された顔画像を利用していて、一定の時間で繰り返し投稿される傾向が見られ、投稿が自動化されているボットアカウントと見られています。
また、実際にフェイク情報が拡散される速度は事実の6倍とも言われています。

これらの事例を通じて、AI技術の進歩がフェイク情報の拡散をどのように助長しているかが見えてきます。
そして、フェイク情報の拡散は、社会全体に様々な影響を及ぼし、これからの情報社会において重要な課題となっています。
特に、インターネットの普及やSNSの利用拡大に伴い、情報の受発信が容易になった現代において、フェイクニュースや偽情報の拡散は更なる悪影響をもたらす可能性があります。

前の投稿

一覧

次の投稿