「ChatGPTで生成した文章」検出ツール、公開されない理由（期待されてるのに…）

ChatGPTを有するOpenAI。検索エンジンのSearchGPT、音声モードの復活など、さまざまなツールの提供を進めています。が、実はほぼ完成しているのに、まだリリースに至らないツールがあるそうな。

それは、多くの人から必要だと声があがるChatGPT生成文章検証ツールです。

ChatGPTが生成した文章がどうかをチェックするAI検証ツール。匿名内部ソースから情報を得たというウォール・ストリート・ジャーナル紙（WSJ）の報道によれば、OpenAI内部ではツールのリリース時期ではなく、リリース自体をすべきかどうか決めかねているのだとか。

今リリース待ち状態にあるツールは、2023年に公開されたAI生成テキストチェックツールよりずっと精度が高いもの。AI生成テキストに埋め込まれる特殊パターン、つまりテキスト版ウォーターマークを検出することができ、その精度はなんと99.9％という超がつく優秀ツールだそう。リリースされれば、学生が書いたレポートのずるを見抜くなど、教師にとっては便利なツールになると、社内ドキュメントでも利点が挙げられているといいます。

検出ツールの存在については、今年5月のOpenAI公式ブログで明かされています（この時点で、WSJで報道されているようにツールの精度が99.9％レベルだったかはわかりません）。ただし、ブログでは、AI生成文章を自動翻訳ツールにかけたり、別のAIで書き直しさせたり、また、単語の間に特殊な文字などを挟んだりすることで、検出回避できてしまう弱点にも触れられています。

弱点があるとはいえ、検出精度が非常に高く、それを求める声も多いツール。OpenAIは、なぜすぐにリリースしないのでしょう。

WSJの報道では、OpenAIのユーザー（顧客）の3分の1はツールを歓迎しないだろうという懸念があるから。

一方、米Gizmodoの取材にOpenAI担当者が回答したのは別の理由。いわく

開発している文章ウォーターマーク法は、技術的にとても見込みがある一方で、悪意ある人間によって検出回避法が出回ったり、英語を第一言語としない人々へアンフェアとなる可能性など、重視すべきリスクもあります。

つまり、OpenAIの検出技術が漏れたり、非英語圏への人への偏見にならないかという問題があると。

AI生成テキストの検出ツールはすでに多々あるものの、その精度は高いとは言えません。ChatGPT生成文章をもっとも見つけることができるのは、ChatGPTを有するOpenAIのツール。

リスクと背中合わせで、OpenAIが精度99.9％のツールをリリースすることはあるのでしょうか。