生成AIがフェイクを氾濫させる「デジタル公害」の時代 長谷佳明
実業家の前沢友作氏がメタ・プラットフォームズに対し提訴。なりすまし型偽広告の問題への対応も総務省が要請。
生成AI技術の悪用による偽広告の巧妙化、複雑化が懸念される。英国のアラップ・グループもAIによる詐欺被害を発表。
アラップのCFOを装ったオンライン会議で被害を受けた事例も発生。偽の状況を作り出す手口に警鐘。
実業家の前沢友作氏は2024年5月、フェイスブックを運営するメタ・プラットフォームズの日本法人に対し、自身の氏名や肖像を無断で使用した偽広告の掲載を許しているなどとして、東京地裁に提訴した。1円の損害賠償と偽広告の差し止めを求めている。
近年急増しているのが、著名人を語る「なりすまし型偽広告」である。24年2月には、堀江貴文氏を装った偽広告がきっかけで、神戸市の女性が5260万円をだまし取られる事件が発生している。
総務省もこれらを問題視し、メタに対して、なりすまし型偽広告の流通の防止と抑制に向けた対策を6月に要請した。総務省が懸念しているのが、生成AI技術の悪用による偽広告の巧妙化、複雑化である。本連載の「AIに関連する事件・事故を登録する『AIインシデント・データベース』」（2023年12月25日掲載）でも取り上げた、生成AIによる偽画像や偽音声、偽動画を悪用したディープフェイクの氾濫である。
◇偽のオンライン会議でカネをだまし取る
このような被害はもちろん日本だけにとどまらない。都市設計やエンジニアリングに関するコンサルティングを手掛ける英国のアラップ・グループは24年5月、香港支店で同2月に生成AIによる詐欺被害があったと発表した。
発端は、アラップのCFO（最高財務責任者）を語る人物から社員に対し、極秘の取引に関する指示を記したメールが送られてきたことであった。メールを受けた社員は、コンプライアンスの観点などで違和感を覚えたようで、当初は指示に応じなかった。すると犯行グループは、CFOによる特別会議をうたうオンライン会議にその社員を呼び出した。
社員は真偽を確かめたかったのか、それとも部下としての立場も考慮したのか、オンライン会議に出席した。そこで“驚くべき状況”に遭遇することになる。出席した会議にはCFOばかりか、会社の他の幹部も出席しているように見えたのである。
