Google、ディープフェイク画像への対策強化 類似画像をフィルタリング
Googleは、Google検索からディープフェイク画像を簡単に削除できる機能を追加した。
検索のランキングシステムも改善され、有害なコンテンツが表示されるリスクが70％以上減少した。
Googleは、偽造コンテンツと合意されたコンテンツを区別するための取り組みも続けている。
Googleは、Google検索からディープフェイク画像を簡単に削除できる機能を追加した。
これまでも、同意なくWeb上で配信された露骨な偽画像などは、検索から削除するようリクエストすることで削除が可能だったが、この機能をさらに強化する。具体的には、自分を対象とする非同意の偽造コンテンツの削除をリクエストして成功した場合、Googleのシステムはその人に関する類似の検索結果から、すべての露骨な画像をフィルタリングできるようにする。さらに、画像を検索から削除した場合は、システムがその画像と重複したものもスキャンして削除する。
検索のランキングシステムも改善。有害なコンテンツに対する最も効果がある方法は、高品質な情報を検索のトップにランク付けするシステムを構築することとし、露骨な偽造コンテンツが検索に表示されるリスクが高いクエリに対して、ランキングを下げるようにした。これにより、こうした画像の露出が70％以上減少したという。
同意された露骨なコンテンツと、偽造された露骨なコンテンツを区別するための改善も継続して行なっている。例えば俳優のヌードシーンでも、合意のもと掲載されているものもあれば、ディープフェイクによるものもある。これらを区別することは検索エンジンにとって技術的な課題となっているが、ポリシーに基づいて検索から多くのページが削除されたサイトは、高品質ではないサイトであるという証拠であり、ランク付けにも反映されている。
Googleでは、こうした問題への対処はまだ多くの作業が必要とし、今後も新しいソリューションの開発を続ける。また、課題は検索エンジンを超えて広がっており、業界全体のパートナーシップや専門家との協力にも投資しながら社会全体で取り組むとしている。
