「進化したAIに人間が“道連れ”にされて滅ぶ」可能性も？ AI開発の競争と安全性を考える
AIの急速な進化に伴う安全性への懸念が高まり、OpenAIの主要メンバーが退社する事態に至った。
アメリカと中国が初めてのAI分野の政府間対話を行い、AIの安全性や悪用に関する意見交換が行われた。
国際社会においてAIの開発に伴う安全性と技術の発展の両立を図りつつ、人工知能ガバナンスのルール作りを進める必要性が強調された。
日常生活や仕事での活用が浸透し始めたAIだが、加熱する開発競争に対する懸念の声も上がっている。国際社会が足並みを揃え、技術の発展と安全性の両立を実現することはできるのか？
アメリカのOpenAIが発表した、対話型AI「ChatGPT」の最新モデル「GPT-4o」。
従来のモデルに比べて処理速度が2倍になるなど、大きな進化を遂げたChatGPTだが、OpenAIの安全対策を担う「スーパーアライメントチーム」の責任者を務めたヤン・ライク氏が「私はOpenAIのリーダーシップと会社の核となる優先事項についてかなり長い間意見が合わず、ついに限界に達した」として退社を表明した。
さらに、ライク氏と共にチームを率いたオープンAIの共同創業者でチーフサイエンティストのイリヤ・サツキバー氏の退社も発表された。
急速な進化を遂げるAIを制御するための研究を目指し、去年7月に設立したチームだったが、重要人物が揃って離脱したことで1年足らずで事実上の解散に至ったと報じられている。
ライク氏はXの投稿で「性能の追及が優先され、セキュリティーや安全が後回しにされてきた」と訴えた。
私たちの生活を一変させる可能性があるAIの開発においては、技術の発展と安全性の両立という難しい課題が待ち受けている。
先進技術に関して対立が続いているアメリカと中国は14日、お互いの意見を交わすため初めてのAI分野の政府間対話をスイスで行った。
ホワイトハウスは声明で「米中はAIの安全性とリスク管理について、率直で建設的な意見交換をした」としながらも、アメリカ側から「中国によるAIの悪用について懸念を示した」としている。
行き過ぎたAIの活用をけん制したアメリカに対し中国側は「アメリカを含む国際社会との意思疎通と協調を強化し、幅広い共通認識を持つ世界の人工知能ガバナンスのルール作りをしていきたい」と強調した。
