![](/img/media/664e5e7805afb.jpg)
ディープフェイクエロ画像をグーグルが本気で対策
Google(グーグル)がディープフェイクやリベンジポルノ取り締まりに本気を出し、検索結果から露骨なコンテンツを削除する取り組みを行っている。
新たなシステムやアルゴリズムの導入により、ディープフェイクポルノのエントリー数が70%以上減少し、被害者支援につながる可能性がある。
Googleはコンテンツのランク付けや削除要請の基準を厳格化し、違法なコンテンツの拡散を防止する取り組みを継続している。
![ディープフェイクエロ画像をグーグルが本気で対策](/img/article/20240803/66ad4a512cdab.jpg)
Google(グーグル)が本気を出してディープフェイクやリベンジポルノを取り締まる。
性的に露骨なディープフェイク画像が昨今ますます増加していて、影響を受けている人が多くなってきています。特に女性が比率的にも多く被害にあっています。
このような状況が急激に悪化しているため、ディープフェイク拡散に対抗する法案が先週、アメリカの上院で満場一致で可決されました。有害なコンテンツに対抗するため、Googleは取り締まりを実施。Googleは企業ブログで、検索結果にディープフェイクが表示されないようにするための二段構えの本気の攻撃方法を説明しています。
露骨なディープフェイクやリベンジポルノの被害者になって、真っ先に考えるのはコンテンツの削除。しかし、これまでコンテンツの削除は非常に困難なことでした。
それもあってGoogleはまずコンテンツ削除を要請するシステムを更新。Googleによると、コンテンツが正常に削除された場合、検索エンジンはその用語に関連するすべての露骨なコンテンツをフィルタリングするとのこと。そして重複する投稿をすべて削除していくそうです。Google検索から露骨な投稿を削除してもらうには、以下の基準を満たす必要があります。
・あなたが画像で特定可能な形で描かれている。
・問題の画像が偽物で、あなたを不当にヌードまたは性的に露骨な状況で描写している。
・あなたの同意なしに画像が配布されている。
またGoogleのランキングシステムも更新されています。まずは露骨なコンテンツをあまり表面化させないランキングを作成すること。検索エンジンは、名前を検索した際に不適切な結果が高頻度で出る検索クエリの場合、ニュース記事などの露骨でない結果を提示するようになります。Googleは、現在の更新によりディープフェイクポルノのエントリーが70%以上減少したと主張しています。
Googleは、コンテンツが合意の上のものかどうか(たとえば、俳優のヌードシーンとディープフェイクの区別など)を判断することが継続的な課題であることを認めています。Google曰く、「正当なコンテンツをより表面化させ、露骨な偽のコンテンツのランクを下げるために継続的な改善を行なっている」とのことです。
もうひとつはGoogleの検索結果で、特に削除要請があった場合、そのサイトは検索においてランクが降格される可能性があります。つまり、そのページで露骨なコンテンツの削除要請が多すぎる場合、Googleはそのサイトが検索結果に表示されるかどうか、またいつ表示されるかを決定することになります。
これは全体的に見れば比較的小さな一歩ですが、少なくともGoogleはディープフェイクやリベンジポルノの被害者にが反撃できるように応援しているということがわかりますね。そして、Googleやその他のAIがこういった問題に対処するためのルールや規制に全体で乗り出すことができたら、なかなか進まない政府の規制や法律を乗り越えて、ネットがもっといい環境になっていくかもしれません