ネット炎上、AIで回避 公開前に検知し、投稿者に注意
AI要約
インターネット投稿サイトの「note（ノート）」は、AIを用いて炎上リスクのある記事を事前に検知し、投稿者に注意を促す機能を導入する。
AIが攻撃的な記述や差別的な表現を検知し、投稿者に警告メッセージを表示することで、炎上や誹謗中傷を防止する取り組みを行う。
ノートは利用者を守る責任を強調し、今後は他のメディア運営会社にも同様の仕組みを提供する可能性がある。
インターネット投稿サイトの「note（ノート）」は人工知能（AI）を使い、ネット上で批判を集める「炎上」につながりかねない記事を公開前に検知し、投稿者に注意を促す機能を年内にも導入する。炎上や誹謗中傷が社会問題となる中、AIでリスクを回避する。法律相談サービスを手がける「弁護士ドットコム」の監修を仰いで開発する。ノートが19日までに発表した。
誰かを強く攻撃したり、差別的だったりする記述などをAIが事前に検知する。そのまま投稿しようとすると「攻撃的すぎるかも」「誰かを傷つけていませんか？」といったメッセージを表示し、注意喚起することを検討。将来、こうした仕組みを他のメディア運営会社などに販売することも視野に入れる。
ノートの投稿サイトは個人や企業が記事や写真、漫画を自由に掲載できる。閲覧回数によるランキングや広告を掲載しないのが特徴で、2014年の開設以来4千万件を超える投稿があった。
ノートの津隈和樹note事業本部長は「利用者を守ることはわれわれの重要な責任だ」と強調する。
