OpenAI元研究者が警告「2030年、人工超知能(ASI)を手に入れた者が全人類を支配する」…荒唐無稽とは言い切れない、その「論理的根拠」

AIはきっと人間のよき友となり、幸せをもたらすはず――そんな未来予測に、急速な技術の進歩が暗い影を落とす。「AIは世界を滅ぼす」という懸念さえ、もはや与太話とは言えなくなってきた。

「どの天才よりも1万倍賢いというくらいの知的レベル。それがASI(Artificial Super Intelligence=人工超知能)なんです」

「私はASIを実現させるために生まれたんだ」

ソフトバンクグループが6月21日に開いた株主総会で、同社創業者の孫正義氏は興奮しつつ語った。「やがてASIを搭載したスマートロボットが工場でモノを生産し、掃除、洗濯などあらゆることをこなすようになる」「医療技術、自動運転の技術もASIで飛躍的に向上する」「脳梗塞やがん、交通事故を激減させられる」……。その未来予測は、日本のビジネス界を驚かせた。

しかし、国内有数のビジョナリーである孫氏の熱狂も、世界に視野を広げると、もしかしたら「周回遅れ」なのかもしれない。というのも、いまAI開発の本場米国では、こんな正反対の「悲観論」が急速に広がっているのだ。

〈ASIは、人類史上で最も強力な技術、そして核兵器を超える最も強力な兵器となるだろう〉

〈ASIを持つ勢力が、持たない者を完全に支配することになる〉

6月上旬、「今後10年の状況認識」と題する英語の文書がネット上で公開され、シリコンバレーに波紋を広げた。

筆者はChatGPTの開発元であるOpenAIの元研究者、レオポルド・アッシェンブレナー。その論文で、彼はAI専門家でなければ読み解けないデータやOpenAIの内部情報に基づき、「ASIは高確率で世界戦争の引き金をひく」「その危機は2030年ごろまでに現実になる」と訴えたのである。

そもそも、ASIとは何なのか。ChatGPTのような既存のAIとは、どこが異なるのか。

ChatGPTのしくみを簡単に言えば、「ある単語の次に来る単語を予測する」という単純なプログラムだ。GPUという演算装置を大量に使い、このプログラムを高速で走らせると、ある時点を境に、なぜか知性が宿ったかのように話し始める――それがChatGPTの根幹をなすメカニズムとされる。

GPUを増やし、コンピュータの性能を高めれば高めるほど、ChatGPTの性能は上がっていく。やがてはどんな分野の質問にも答えられるようになり、人間と見分けがつかないほどの知性を宿すようになるはずだ。

そうしたAIは、「汎用人工知能(Artificial General Intelligence=AGI)」と呼ばれる。いまOpenAIだけでなく、グーグルやMetaなどの巨大IT企業が、AGIの完成を目指して投資と研究を進めている。

問題はその先だ。人間とAIの最大の違い、それは「自分で自分を改良できるか否か」にある。

人間は誰もが自力で学習して知性を高め、成長してゆく。いまのAIにはそれができないが、もし今後、人間と同レベルの知性に到達すれば、「自分で自分のプログラムを次々に書き換え、より賢くなってゆく」ことさえ可能になるだろう。

その段階に達したAIこそが「ASI(人工超知能)」と呼ばれる。米マサチューセッツ工科大学(MIT)教授で、世界的に著名な物理学者・AI研究者のマックス・テグマーク氏が言う。

「AGIを放っておくと、あっという間に人間の能力を追い越し、その後は倍々ゲームで賢くなり続けるでしょう。すでにGPTシリーズの中に、その萌芽が見え始めています。AIの専門家には、最短であと数年以内にAGIやASIが現れるのではないか、と考える人も少なくありません」