ある研究者が「AIによって人類が破滅する確率は99.9％」と考える理由（海外）

AI研究者のロマン・ヤンポルスキーは、AIが人類を絶滅に導く可能性を99.9％と見積もっている。

彼は、これまでのところ安全なAIモデルはなく、将来のモデルにバグがない可能性も低いと述べている。

他のAI研究者は、AIが人類を絶滅に導く可能性について、もっと控えめな予測をしている。

ポッドキャスターのレックス・フリードマン（Lex Fridman）が最近のエピソードで語ったことろによると、彼が話をするほとんどのAIエンジニアは、AIが最終的に人間を絶滅させる可能性は1％から20％の間だと見積もっているという。

その予測は質問の仕方によって異なる。例えば、2700人のAI研究者を対象に実施された最近の調査では、AIが人類の絶滅につながる可能性はわずか5%であることが示された。しかしフリードマンは、それをはるかに高い確率で予測している人と話をすることが重要だと言う。例えば、AI研究者のローマン・ヤンポルスキー（Roman Yampolskiy）は、100年以内にAIが人類を絶滅させる可能性は99.9%だと、2024年6月2日に公開されたエピソードでフリードマンに語っている。

ヤンポルスキーはルイビル大学でコンピューターサイエンスを教えており、『AI: Unexplainable, Unpredictable, Uncontrollable』という本を出したばかりだ。

彼はフリードマンのポッドキャストで2時間以上にわたってAIのリスクについて語ったが、その予測はかなり暗いものだった。

彼によると、AIが人類を絶滅させる可能性は、今後100年以内に人間が「バグのない」極めて複雑なソフトウェアを作れるかどうかにかかっているが、その可能性は低いという。というのも、AIに設計されていないことをさせようとする人間から完全に安全なAIモデルは存在しないからだ。

「（AIは）すでに間違いを犯している。事故もあったし、ジェイルブレイク（脱獄：メーカーが承認していないソフトウェアを動作させること）もされた。今日、開発者が意図していないことはできないという大規模言語モデルは、ひとつもないと思う」

これまでの2年間、初期のAIモデルは、悪用や誤報の可能性を示すさまざまな赤信号を発してきた。ディープフェイクによって有名な女性の偽のポルノ画像が作成され、バイデン大統領の声を真似たAIロボコールによって選挙戦が脅かされた。

失敗してしまったAI製品の中でも最も新しいのは、グーグル（Google）のGemini AIモデルを基にした「AI Overviews」だ。グーグル検索のこの新機能は、特定のクエリに対する検索結果の概要をページ上部に表示し、有益な情報をすばやく提供することを目的としていた。ところが、接着剤を使ってピザを作ることを提案したり、アフリカにはKで始まる国はないと述べたりするなど、意味不明な回答を導き出したことで話題になった。

AIをコントロールするには、永続的な安全装置が必要だとヤンポルスキーは言う。人間が今後のGPTのいくつかのバージョンをうまく開発したとしても、AIは改善し、学習し、自己修正し、さまざまなプレーヤーと対話し続けるだろう。その実存的なリスクに関しては「チャンスは一度しかない」のだという。

ChatGPTの開発者であるOpenAIのサム・アルトマン（Sam Altman）CEOは、人間がAIの実験を行い、何が「本当に間違っていた」のか、何が「本当に正しかった」のかに基づいてAIを規制する「規制のサンドボックス（仮想環境）」を提案している。

アルトマンは2015年に、「AIはおそらく世界を終焉に導くかもしれないが、それまでにすばらしい企業が生まれるだろう」と警告した。あるいは単なる冗談だったのかもしれない。

最近の彼は、AIに関連する「あらゆるSF的なこと」のせいで夜も眠れないと語っている。「物事が本当にうまくいかないことが容易に想像できる」のだという。

2022年11月にChatGPTが世界を席巻して以来、AIが人類を破滅に導く可能性についてさまざまな予測がなされてきた。

ヤンポルスキーは、「より知的になったシステムが何をするかは予測できない」と警告している。彼はAGI（汎用人工知能）の文脈で人間をリスに例え、AIは我々がまだ存在すら知らない何かを考え出すだろうと述べた。