生成AIを用いたアプリの「偽レビュー」で収益を得る悪質業者

デジタルメディアの調査企業DoubleVerify（ダブルベリファイ）の新たなレポートによると、膨大な数の人工知能（AI）で生成した高評価の偽のレビューが、モバイルやスマートテレビのアプリストアに掲載されているという。

「当社の不正対策ラボは、2024年に投稿されたAIによる偽のレビューが、2023年の同時期と比較して3倍以上に急増したことを確認した」とダブルベリファイは述べている。

これは一見、被害者のいない犯罪のように思えるかもしれないが、広告の表示回数が極端に多い悪質なアプリが、ランキングの上位に入ることで、最新のアプリを探しているユーザーが、それらのアプリをダウンロードする可能性が高くなる。

ダブルベリファイによると、こうしたアプリの中には、ユーザーのスマートフォンを乗っ取って、広告を絶え間なく表示させるものがあるという。これにより、詐欺師たちが収益を得る一方で、ユーザーの端末のバッテリーは無駄に消耗してしまう。

ダブルベリファイは、特定の企業やアプリの名前を挙げていないが、同社の調査によると、「AIで生成した偽の5つ星の評価が数千件もついているアプリが存在する」という。偽のレビューは、以前からApp StoreやGoogle Playに存在したが、生成AIはより本物らしいフェイクを作り出すことが可能だ。

スマートテレビのアプリの中では、複数のレビューで重複したフレーズが使用されているものがあり、それらはすべて4つ星または5つ星のレビューだったという。ストリーミング分野では、誰も見ない広告を販売するための偽のトラフィックを生成するCycloneBotと呼ばれる広告詐欺ツールに絡む偽のレビューが発見された。

「AIを用いた偽のレビューの問題は、あらゆるタイプのアプリストアで発生している。例えば、人気のスマートテレビプラットフォーム上のストリーミングアプリを分析したところ、レビューの50％が偽物だった」と、ダブルベリファイは述べている。

2023年に約100万件のレビューを分析した調査によると、Google Playの人気アプリの25％に疑わしいレビューが含まれており、App Storeの上位アプリの17％も同様の問題を抱えていた。特に問題が指摘されたのは、ゲームや健康・フィットネス系のアプリで、これらのカテゴリは人気が出ると短期間で大きな利益を上げられるとされている。

ダブルベリファイは、偽のレビューにはいくつかの特徴が見られるとしており、その例としては、「異なるレビューに同じ文体が使用されているもの」や、「特定の投稿者が複数の高評価のレビューをつけているもの」、「特定のプラットフォームにしか存在しない投稿者によるレビュー」などが挙げられている。

しかし、生成AIがさらに進化を続ければ、これらの偽のレビューを見破ることはより困難になりそうだ。アップルやグーグルは、アプリのレビューが本当の人間によるものであることを確認するための投資を増やす必要がありそうだ。