人工知能が核兵器を発射したら？…２１日開幕「ＡＩソウルサミット」プレビュー

　人工知能（AI）を備えた軍事管制センターは人間の命令なしに自ら核兵器を発射できるだろうか。新薬の開発に使えるといわれるAIが数百万人の生命を脅かす生物兵器を作り出すとしたら。会社の面接で自分を落としたAIには損害賠償を請求できるだろうか。デジタル教科書が生徒たちの視線をチェックして「授業に集中していません」と判定し点数を低く付けたとしたら…？

　生成AIが恐ろしい速度で発展している。自ら考えて学習し、統制が不可能な「フロンティアAI」の出現も遠くないという懸念のなか、各国で共通のAI規範を作り管理しなければならないという声が高まっている。産業発展と国家安保を理由にAI開発に拍車をかけてきた国々は、規制に対しても主導権を握ろうと競っている。5月21～22日に韓国で開かれる「AIソウルサミット」の開幕を控え、緊張感が漂うのもそのためだ。

■ 世界は「AI規範」の主導権争い

　「AIソウルサミット」は、昨年英国で開催された「AI安全性サミット」の後続会議だ。初日の会議はオンラインで行われる。22日にはソウル市城北区の韓国科学技術研究院（KIST）で対面会議の長官セッションが開かれ、「AIグローバルフォーラム」も同時に開催し、AIの安全性に対する議論を継続する。ドイツ、フランス、スペイン、シンガポールなどから長官クラスの出席が予定されており、オープンAI、グーグル、マイクロソフト、アントロピックなどビッグテック企業も韓国を訪れる。

　英国で開かれた初の会議は、米国、中国、欧州連合（EU）を含む28カ国の政府が、AIが招きうるリスクに備えて世界的に協力しようという「ブレッチリー宣言」に署名し、注目を集めた。国ごとに規制の範囲と強度をめぐって意見が異なるため、1回目はリスクに対する認識を共有し、安全性認証の規範を作ろうという原論的な議論に終わった。今回のサミットでは、具体的に何をリスクとみるべきか、またどのように統制するかについて意見をまとめなければならない。

　国際AI・倫理協会（IAAE）のチョン・チャンベ理事長は、「従来はAIの信頼性が問題だったとすれば、昨年末からは安全性問題が具体化しはじめた」として「AI倫理と法制化の主導権を握ろうとする各国の競争が激しい」と話した。EUは3月、強力な処罰規定を盛り込んだAI法を世界で初めて可決した。米国は昨年11月以後、相次ぐAI関連の「行政命令」を下している。中国は昨年、一帯一路参加国を中心に技術誤用を防ぐための「グローバルAIガバナンスイニシアチブ」を提案した。国連では3月、「AIの安全な使用に関する国際的合意を早急にまとめるべき」という内容の決議案を出した。

■ 「世界共通の『安全規範』、韓国も声を上げよう」

　各国が先を争って「安全なAI規範」を提示しようとする理由は何だろうか。AIの「ゲームの規則」を支配してこそ、自国の経済と国家安保に有利だという判断からだ。AIの学習に必要な膨大なデータが他国の独寡占企業に占有された場合、安保上の脅威になりかねないという内心もある。欧州は、ビッグテック企業がハイリスクに分類したAIサービスを実施するには、学習したデータセットなどを公開しなければならないという「透明性」を要求している。米国は行政命令を通じて、米国企業のAI技術を利用する場合、外国企業も米国政府に安全性措置を取ったかを報告するよう要求し、クラウドサービスの提供者に外国顧客リストの申告を義務付けた。

　各国政府主導のもと、AIの安全性評価検証システムを作るための「AI安全研究所」が続々と設けられている。米国、英国、日本、カナダ、シンガポールの5カ国が設立し、米国と英国は研究所間の相互協力を結んだ。韓国政府も研究所の設立を推進している。韓国企業も長期的には安全性を要求する流れに備えなければならない。

　韓国科学技術情報通信部のオム・ヨル情報通信政策官は「今後、安全なAIにしなければ（企業も）市場で生き残れない。信頼でき、安全なAIになってこそ、リスクを最小限に抑えて生き残ることができる」と最近の気流を伝えた。

　韓国の考えは、処罰が重点であるEUよりは自律規制にやや重きを置いている。今回のソウルAIサミットは、1回目とは違って会議の名称から安全性を外した。安全性だけでなく、イノベーション（革新）、インクルージョン（包容）も盛り込むという意味だ。「技術的に厳格な安全性・透明性の規制を押し付けて、（AI後発業者の進出の）はしごを外すのではないか」という後発企業らの不満をおさえ、規範主導権競争の勢いを拡大させる次元と読み取れる。ソウル女子大学情報保護学科のキム・ミョンジュ教授は「受け入れられない規制になれば、中国などが抜けてしまった西側諸国だけの合意になりかねない」とし、「AIの使用を放棄しない、適切な規制の線を見出すのがカギ」と述べた。すなわち、今回の会議にどれだけ多くの国が参加するかも、今後の流れを予測するうえで重要だ。

チョン・ユギョン記者、パク・チヨン記者 (お問い合わせ japan@hani.co.kr )