ウォーターマーク義務付け？ ディープフェイク性犯罪物は鼻で笑うかも

　このところのテレグラムを中心とした違法合成（ディープフェイク）性犯罪物の拡散を受け、政界からは人工知能（AI）による生成物にウォーターマーク（識別表示、透かし）適用を義務付けるべきだとの声があがっている。しかし専門家は、ウォーターマーク使用の義務付けはAIに対する信頼基盤の造成のための「最小限の努力」とはなりうるものの、直ちにディープフェイク性犯罪物を防ぐための対策としては限界があると指摘する。

　29日のセキュリティー業界と専門家の説明によると、グーグルやオープンAIなどのビッグテックがAI生成物に適用するウォーターマーク技術とそれらの標識の除去技術は、「矛と盾」の対決のように発展し続けている。例えば、グーグルなどが自社の生成AIの作ったコンテンツに独自開発したデジタルウォーターマークを内蔵すると、それをノイズ技術などで毀損する除去技術が登場する、といった具合にだ。この場合、ビッグテックは改めて一段階高い水準のウォーターマーク技術を開発し、AI生成コンテンツに適用している。

　米国のバイデン政権は昨年10月、AI生成物であることが認識できるよう、ウォーターマークなどの標識を義務付ける行政命令を発表した。韓国政府も今年5月に、「新たなデジタル秩序確立推進計画」の一環として、AI生成物へのウォーターマーク表示の義務付けを推進することを決めている。国会では今年6月、キム・スンス議員（国民の力）がAI生成物に標識を義務付ける情報通信網法改正案を代表発議している。

　だが、ディープフェイク犯罪物に利用されるAIプログラムは、大半がこのような法での規制が困難な場所で作られて流通するため、ウォーターマーク義務付け法が成立しても取り締まりは事実上難しい。高麗大学情報保護大学院のイム・ジョンイン名誉教授は、「テレグラムやダークウェブで取り引きされるプログラムは今も制度圏外にあるため、ウォーターマーク義務付け法を作るだけでは、ディープフェイク性犯罪物の解決には実効性があまりない」と語った。あるセキュリティー業界の関係者も、「ウォーターマークはAIで生成したコンテンツを見る人たちに『これはAIで作った偽イメージ』だということを明確に伝えるためのもの」だとして、「ディープフェイク性犯罪物は、すでに多数の利用者が偽であることを知りつつ楽しんでいるとみられ、今回の事態に関してどれほど実効性があるかは疑問」だと語った。

　もちろん、AI生成物を悪用した犯罪が増え続けているだけに、現行制度の補完の観点からウォーターマークの義務付けは必要だ。ウォーターマーク技術のスタートアップ「スナップタグ」のミン・ギョンウン代表は、「セキュリティー分野では、あらゆる技術が『矛と盾』の戦いへと発展する。AI技術の発展においては、いま最善を尽くすとともに、制度を補完し続けることが必要だ」と語った。

ソン・ダムン、パク・チヨン記者 (お問い合わせ japan@hani.co.kr )