中露やイスラエル、生成AIで「影響工作」 日本語の文章も
米オープンAIが開発したチャットGPTが他国の「影響工作」に利用されていたことが明らかになり、ロシア、中国、イスラエル、イランに関連するグループのアカウントが削除された。
特に中国のグループは日本語や韓国語で文章を生成し、日本のブログサイトで福島第1原発処理水の海洋放出を批判する記事を投稿していた。
他のグループもそれぞれネガティブなキャンペーンを行い、AIツールを利用して政治的な影響を狙っていたが、大きな影響力を持つことはできなかった。
対話型の人工知能（AI）のチャットGPTを開発した米オープンAIは30日、他国に対する「影響工作」で同社のAIツールを利用していたとして、ロシア、中国、イスラエル、イランに関連する五つのグループのアカウントを削除したと発表した。中には日本語で文章を生成し、「影響工作」に使ったとみられるグループもあった。
チャットGPTは2022年11月の公開以来、世界で1億人以上のユーザーを抱える。自社技術を利用した「影響工作」に関するオープンAIの調査報告は初めて。
同社によると、今回特定されたグループは過去3カ月間で「実行者の身元や意図を明かすことなく、世論を操作したり、政治に影響を与えたりする試み」を続けていた。ロシアのウクライナ侵攻やパレスチナ自治区ガザ地区での戦闘、インドの総選挙、欧米の政治情勢、中国政府批判など幅広いテーマを対象としていたが、いずれも大きな影響力を得ることはできなかったと分析した。
このうち中国の法執行機関との関連が指摘される「スパモフラージュ」として知られるグループは、日本語や韓国語など複数の言語で文章を生成するために同社のAIツールを利用していた。23年後半には日本の大手ブログサイト「アメーバブログ」で東京電力福島第1原発の処理水の海洋放出を批判する記事を投稿していたという。
また「バッドグラマー」と今回名付けられたロシアのグループは、秘匿性の高い通信アプリ「テレグラム」に自動投稿するためのプログラム作りに同社のツールを利用していた。「米国はウクライナを支援すべきではない」という趣旨の文章を生成してロシア語や英語で投稿していたという。
さらにイスラエルの政治キャンペーン会社「ストイック」は、ガザでの戦闘に関してイスラエル寄りの投稿をAIで生成し、英語圏の人々を対象に主要なソーシャルメディアに繰り返し流していたとした。フェイスブックとインスタグラムを運営する米メタは29日、ストイック社に関連する500以上のアカウントを削除したと発表している。これらのアカウントは架空の米国人大学生などを装い、「AIが生成した可能性が高い」コンテンツを拡散していたとされる。【ニューヨーク八田浩輔】
