![](/img/media/664e5e7805afb.jpg)
「ChatGPTで生成した文章」検出ツール、公開されない理由(期待されてるのに…)
ChatGPTを有するOpenAI。様々なツールを提供しているが、まだリリースされていないツールがある。
そのツールはChatGPT生成文章検証ツールで、99.9%の精度を持つ高性能ツールだが、リリースに懸念がある。
検出精度が高いがリスクも伴い、OpenAIがリリースを躊躇している。
![「ChatGPTで生成した文章」検出ツール、公開されない理由(期待されてるのに…)](/img/article/20240808/66b4b002280ee.jpg)
ChatGPTを有するOpenAI。検索エンジンのSearchGPT、音声モードの復活など、さまざまなツールの提供を進めています。が、実はほぼ完成しているのに、まだリリースに至らないツールがあるそうな。
それは、多くの人から必要だと声があがるChatGPT生成文章検証ツールです。
ChatGPTが生成した文章がどうかをチェックするAI検証ツール。匿名内部ソースから情報を得たというウォール・ストリート・ジャーナル紙(WSJ)の報道によれば、OpenAI内部ではツールのリリース時期ではなく、リリース自体をすべきかどうか決めかねているのだとか。
今リリース待ち状態にあるツールは、2023年に公開されたAI生成テキストチェックツールよりずっと精度が高いもの。AI生成テキストに埋め込まれる特殊パターン、つまりテキスト版ウォーターマークを検出することができ、その精度はなんと99.9%という超がつく優秀ツールだそう。リリースされれば、学生が書いたレポートのずるを見抜くなど、教師にとっては便利なツールになると、社内ドキュメントでも利点が挙げられているといいます。
検出ツールの存在については、今年5月のOpenAI公式ブログで明かされています(この時点で、WSJで報道されているようにツールの精度が99.9%レベルだったかはわかりません)。ただし、ブログでは、AI生成文章を自動翻訳ツールにかけたり、別のAIで書き直しさせたり、また、単語の間に特殊な文字などを挟んだりすることで、検出回避できてしまう弱点にも触れられています。
弱点があるとはいえ、検出精度が非常に高く、それを求める声も多いツール。OpenAIは、なぜすぐにリリースしないのでしょう。
WSJの報道では、OpenAIのユーザー(顧客)の3分の1はツールを歓迎しないだろうという懸念があるから。
一方、米Gizmodoの取材にOpenAI担当者が回答したのは別の理由。いわく
開発している文章ウォーターマーク法は、技術的にとても見込みがある一方で、悪意ある人間によって検出回避法が出回ったり、英語を第一言語としない人々へアンフェアとなる可能性など、重視すべきリスクもあります。
つまり、OpenAIの検出技術が漏れたり、非英語圏への人への偏見にならないかという問題があると。
AI生成テキストの検出ツールはすでに多々あるものの、その精度は高いとは言えません。ChatGPT生成文章をもっとも見つけることができるのは、ChatGPTを有するOpenAIのツール。
リスクと背中合わせで、OpenAIが精度99.9%のツールをリリースすることはあるのでしょうか。