OpenAI、米国の政治的な分断を狙うイラン関連アカウントを削除

OpenAIは米国時間8月16日のブログ投稿で、ChatGPTを使用して偽のソーシャルメディアプロフィールや偽ニュース記事を作成し、米国のオンライン上で政治的分断を煽ろうとしたとされるイラン関連アカウントを削除したと発表した。これは、今月マイクロソフトとグーグルがイランによる影響工作を特定した動きに、テック企業として続くものだ。

OpenAIは、政治的に分断させるコンテンツを作成するために使われていたChatGPTアカウント「cluster」を削除したと発表した。このアカウントは、インスタグラムやX（旧ツイッター）に投稿されたコンテンツを作成し、リベラル派および保守派向けの偽のニュースサイトでも使用されていた。後者には、副大統領カマラ・ハリスと前大統領ドナルド・トランプに関するでっち上げのストーリーが掲載されていた。

X上のアカウントは、リベラル派と保守派を装い、ChatGPTによって生成された投稿を行っていた。この場合ChatGPTは、他のユーザーがソーシャルメディアに投稿したコメントを書き直すように指示されていた。

この影響工作で米国大統領選挙、イスラエル・ハマス紛争、米国ラテン系住民の権利など、さまざまなトピックに関するコンテンツが作成された。

OpenAIは、この工作によって作成された投稿や記事の影響は限定的であったと指摘し、ネットユーザーが偽のコンテンツに深く影響されたり、それらを広く共有したりした証拠はないと述べている。

OpenAIは、先週マイクロソフトが発表した報告書が今回の調査に役立ったと述べている。この報告書では、イランとつながりのあるグループが、高官へのハッキングやオンラインでの偽情報の拡散を試みていたことが明らかになっていた。

マイクロソフトとOpenAIは、それぞれの報告書で同じグループ「Storm-2035」を特定している。マイクロソフトはStorm-2035を、大統領候補、LGBTQの権利、イスラエル・ハマス紛争に関する報道を行う、正当な4つのニュースサイトを装ったイランのネットワークであると指摘している。