グーグル、奇妙なAI検索結果の真相を説明

　この1週間、ソーシャルメディアにアクセスした人はおそらく目にしたことだろう。Googleの人工知能（AI）による検索要約機能のスクリーンショットがソーシャルメディアに広がった。ピザに接着剤を入れる、パスタをガソリンで調理する、健康を極めるには岩を食べるべきだといった、めちゃくちゃなお薦めをGoogleがしたというのだ。

　これは始まりにすぎなかった。

　ほかにもとんでもないスクリーンショットが拡散された。ふらちなAI機能が、洗濯機を掃除するのに漂白剤と酢を混ぜるように勧めたり（そんなことをすると、命にかかわるおそれのある塩素ガスが発生する）、「気持ちが沈んでいる」というクエリに対してゴールデンゲートブリッジから飛び降りるように回答したりしたという。

　何があったのだろうか。Googleの「AI Overviews」がなぜそんなことを勧めたのだろうか。

　Googleによると、まず、拡散したものの過半数は、本物ではなかったという。

　多くのスクリーンショットは単なるフェイクだった。Googleは、「偽造されている結果には、明らかにそれと分かるたわいないものがある。一方で、犬の車内放置、妊娠中の喫煙、うつなどの話題について、Googleが危険な結果を返したと示唆しているものもある」と説明したうえで、AI Overviewsでこうした回答が表示されたことはないとしている。

　そのほかに、岩を食べろという回答のような、おかしな検索結果を意図的に得ようとした人によるスクリーンショットが多数あった。「スクリーンショットが拡散する以前、そんなことをGoogleに尋ねた人はほとんどゼロだった」とGoogleは述べている。Googleで検索している人がいない話題だと、おそらく、利用できる情報は多くなく、データが存在しないこともあるだろう。そのようなケースでは、風刺的なコンテンツしかなく、その内容をAIが正確なものだと判断してしまった。

　奇妙な回答や不正確な回答の中に実際に表示されたものがいくつかあったことをGoogleは認めている。普通はありえないクエリに対する回答ではあったが、改善が必要な分野が明らかになった。Googleは、うまくいかなかったもののパターンを特定し、以下に挙げるような十数件を超える技術面の改善を実施した。

AI Overviewsで結果を表示するべきではない荒唐無稽なクエリの検知を改善し、風刺やユーモアを目的とするコンテンツの取り込みを制限する。

誤解を招くアドバイスとなるおそれがある回答でユーザー生成コンテンツの利用を制限する。

AI Overviewsが有用であることが判明していないクエリに制限をかける。

情報の新しさと事実性が重要な真面目なニュース、および健康に関する話題の大半については、AI Overviewsによる結果を表示しない。

　Googleによると、毎日膨大な数のクエリが集まっており、おかしなことが起こることはこれからもあるだろうという。同社は、間違いから学んでいるとしたうえで、AI Overviewsの強化にこれからも取り組んでいくと約束している。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。