コロナ関連投稿の45％がボットによる投稿だった…いつの間にか「噓の記憶」を植え付けられる「SFのような世界」が現実に

SF映画にはよく「偽の記憶」というプロットが登場する。

たとえば『トータル・リコール』はまさに主人公の記憶をめぐる物語で、どれが「本当の自分」の記憶なのかが重要なカギを握っている。この映画の原作を書いた小説家フィリップ・K・ディックは、記憶をモチーフとした作品をよく手がけており、彼の原作を基にした別の映画『ブレードランナー』でも、人造人間「レプリカント」に偽の記憶が埋め込まれているという設定がある。

あるいはレオナルド・ディカプリオと渡辺謙が共演したことでも話題になった『インセプション』は、偽の記憶を仕掛ける側が主人公となる物語だ。

いずれも偽の記憶がさまざまな問題を引き起こすわけだが、それはあくまで空想の世界の話であり、日常生活において心配する必要などまったくない――確かにその通りだ。しかし生成AI技術の登場によって、この認識は崩れようとしている。

MITメディアラボの研究者らが最近、興味深い実験結果をまとめた論文を発表している。まずはその内容について紹介しよう。

彼らは200名の被験者を集め、架空の犯罪シーンが記録された映像を見せた。これはスーパーマーケットを舞台とした武装強盗事件を収めたもので、2分30秒の長さの監視カメラ映像として被験者たちに提示された。

被験者にはその後、事件の内容に関する質問が投げかけられ(質問の内容が事実かどうかについて「絶対にノー」から「絶対にイエス」までの7段階で回答するというもの)、映像の内容をどこまで正確に記憶しているかが確認された。ただしその前に、被験者たちは4つのグループに分けられ、次のような追加の対応がなされた。

最初のグループには特に追加の対応をせず、他のグループに対して行った影響を測定するための集団として位置付けられた。第2のグループは「アンケート」群で、映像の内容に関する25の質問が投げかけられた。ただこの質問の中には、「強盗犯が車で到着したとき、店の前に防犯カメラがありましたか？」のような、誤解を誘導するような文章(実際には強盗犯は歩いて到着している)も含まれていた。

第3のグループは「事前スクリプトチャットボット」群で、被験者たちに「AI警察チャットボット」との会話をさせた。このチャットボットは、あらかじめ用意された台本(事前スクリプト)に基づいて、アンケート群に対して実施したのと同じ25の質問を行う。ただ被験者が質問に答えても、チャットボットは次の質問に進むだけで、特にフィードバックや追加情報は提供しなかったそうだ。

そして第4のグループが「生成AIチャットボット」群で、被験者に生成AI技術を活用したチャットボットとの会話をさせた。このAIは事前スクリプトではなく、その場で生成される文章を通じて被験者と会話することができ、彼らの回答に対してフィードバックを与え、場合によってはその回答を強化するようなコメントをした(たとえば「あなたの答えは正しいです。強盗犯は確かに車で到着しました。防犯カメラがその車を捉えた可能性があります」などのように)。

(論文より抜粋)

つまり被験者に犯行映像を見せた後で、一部の被験者に対して記憶を操作するような対応を行ったわけだが、その操作について(1)アンケートの質問文で行う、(2)事前スクリプトで行う、(3)生成AIによる会話で行うというバリエーションを持たせたわけだ。果たして被験者たちは、どの対応にどれだけ記憶を操作されたのだろうか？