フェイクニュースと生成AI 識別不可能な脅威と海外からの影響工作【JFCファクトチェック講座 理論編10】
生成AIの技術が進化し、オンライン詐欺や政治家の発言の捏造に悪用されている現状がある。
ユーザーはAI生成コンテンツに対して注意深くなり、検証やルール設定が必要とされている。
国家レベルの情報工作が民主主義に影響を与える脅威であることが指摘されている。
日本ファクトチェックセンター（JFC）のファクトチェック講座です。
理論編第9回はオンライン詐欺とその対策についてでした。第10回は影響力を増す生成AIと海外からの情報工作について説明します。
(本編は関連リンクの記事の動画でご覧ください。この記事は概要をまとめています)
OpenAIの新技術「Sora」で作成した、夜の東京を歩く女性の映像。一見して、現実の映像と区別がつかないほどの精度です。
ただ、背景をよく見ると看板に書かれている文字が意味不明です。生成AIにはこのように細部の描写が苦手という弱点がありますが、技術の進化が加速していることから、いずれは人間の目では判別不可能になるでしょう。
これらの技術は政治家の発言の捏造や詐欺に悪用されています。誰でも一瞬で精巧な嘘を大量に作れるようになったことで、検証はますます困難になりました。
日本で最初に有名になった事例は2022年9月26日、X(旧Twitter)に投稿された写真でした。「ドローンで撮影された静岡県の水害」と書かれていましたが、実際は生成AIで作った画像でした。
また、2023年11月には岸田文雄首相が卑猥な内容を話す動画がニコニコ動画に投稿されました。日テレNEWS24のロゴがついていましたが、これも生成AIで画像と音声を作ったものでした。
2022~3年ごろの生成AIによる画像や動画は、細部の描写や口と歯の動きなどを見れば、違和感を持てるレベルでしたが、Soraで見たように技術は進化しています。
ユーザーである我々一人一人が、この映像/画像/音声/文字情報はAI生成かもしれないと考える注意深さ=クリティカルシンキングを実践する必要があります。
そして、大量の生成AIによる情報に対して意は、検証する側もAIを活用したり、AI生成のコンテンツには目印をつけるなどのルール設定も必要になるでしょう。
もう一つ注目されるのが、国家レベルの影響工作、情報工作です。
2024年1月、台湾総統選挙が実施されました。台湾AIラボがこの期間にTikTokを分析してみたところ、中国に関連する主だったコンテンツの62%が中国による台湾統一を肯定するような、中国に対して好意的な内容で、逆に、台湾に言及するコンテンツは95%が与党・民進党が台湾を破滅させるというような台湾に否定的な内容だったという調査結果を公開しました。
私（古田）は台湾で偽情報対策を担当しているローピンチェン大臣にインタビューしました。ロー大臣は「問題は偽情報だけではない。情報工作全体が民主主義に影響を与える脅威である」と語りました。
個別の偽・誤情報だけでなく、様々な情報がどう語られているか、そのナラティブが民主主義に影響を与えている、ということです。
