【生成AI活用の危険性】誰でも簡単に作れる高度な偽情報、プロパガンダ工作にどう対応すべきか
生成AIによる偽画像の投稿がアメリカ大統領選挙に影響を与える可能性が議論されている。
生成AIを利用した影響工作に対する規制が検討されており、新たな問題に対処する必要がある。
生成AIの普及が進む中、AIによるリスクを低減する取り組みが急務として位置付けられている。
2024年11月に実施されるアメリカ大統領選挙が白熱するなか、生成AI（人工知能）で作成されたトランプ氏の偽画像が支持者の男性により投稿された。生成AIの普及により、巧妙な偽画像が迅速・大量に作られるようになり、有権者の投票行動に大きな影響を与えるプロパガンダに使われる恐れがある。
生成AIサービスには著作権侵害、機密情報漏洩、倫理・差別等のリスクが常にあるが、実用段階といえる影響工作分野では正確性や著作権侵害等のリスクを度外視できる。生成AIを用いた影響工作に対してはいくつかの規制が検討されているが、どのように対処すべきなのか。2023年7月10日に掲載した『誰もが当事者に 生成AIによる影響工作「新時代」』を再掲する。 対話型AI「ChatGPT」をはじめとする生成AI（generative AI）に世界の関心が集まっている。既にいくつかのリスクが指摘されているが、影響工作の分野でも過去のイノベーションとは異なる影響や結果を生み出す可能性が高い。
自然言語、イメージ（画像、イラスト）、コードといった分野での生成AIおよび関連サービスの衝撃は国境を越え、その普及速度と影響度は過去のAI関連イノベーションとは一線を画す。特に自然言語生成、翻訳、数的処理などに対応可能な対話型AI「ChatGPT」は2022年11月末のリリースから、類を見ない速度で利用が拡大した。ChatGPTが100万ユーザーを獲得するのは僅か5日、月間1億ユーザーに達するのもたった2ヵ月だった。
影響という点では、特定産業や単発のイノベーションを超えた次元の懸念があがっている。数百名のAI科学者や専門家らが署名したAI安全センターの公開書簡は僅か22ワードながら、各国の政策決定者の関心とリソースを引き付けるには十分である。
それは「AIによる（人類）絶滅のリスクを低減することは、パンデミックや核戦争等のその他の社会的規模のリスクと並んで世界的な優先課題であるべきだ」というものだ。AIがもたらすリスクは、SF的未来から予見可能な将来・現在進行形のリスクとして語られている。
