OpenAIがAIテキストに透かしを入れない理由
OpenAIはChatGPTの生成テキストに透かしを入れる技術を検討していたが、ユーザがその透かしを検知する可能性が低くなることが判明した。
透かし技術はテキストの真贋を判定するために使われ、AI検出ツールを支持する声が高まっている。
OpenAIはメタデータを使用する代替案を検討しており、Googleも既にAI生成テキストに透かしを使用している。
ウォールストリート・ジャーナルによると、ChatGPTの親会社であるOpenAIは、1年以上前からAIテキストに透かしを入れる方法を検討していたようです。
このような技術は、教師、研究者にとって、恩恵となるでしょう。
「人工知能によって書かれたテキストを99.9％の確率で検出できる技術は、2年間社内で議論されてきました」とWSJはOpenAIについて書き、この技術は基本的に準備が整っており、検出可能なパターンに従うようにモデルを調整することで機能するだろうと述べています。
しかし、ChatGPTによって生成されたテキストを検出し、透かしを入れることで、約30％のユーザが、生成されたテキストに透かしが入れば、ChatGPTを使う可能性が低くなるとOpenAIに語ったと思われるのです。
WSJの報道を受けて、OpenAIは電子透かしを社内で研究していることを確認するブログを投稿しましたが、「精度が高く、リライトのような使い方で生成されたテキストは判明する」一方で、外部のモデルを使って翻訳されたり言い換えられたりしたテキストに対してはあまり役に立たないとのこと。
また、ジャンク文字を追加してから削除するといったハックにも弱いそう。
代替案として、同社はAIが生成したテキストをマークするためにメタデータを使用することを検討しています。同社はすでに、AIが生成した画像をマークするためにメタデータを使用しており、ブログ記事でその例を詳しく紹介しているのです。
同社がどのような方法を使うにせよ、早期の登場を望む声は明らかです。WSJが依頼した調査によると、"世界中の人々がAI検出ツールのアイデアを4対1の差で支持している"とのこと。
今年のGoogle I/Oで説明されたように、GoogleはすでにAIが生成したテキストに透かしを使用しています。
Source: Wall Street Journal, Mashable
