AIを作っている人間たちが、自分たちの作っているものに怯えている。
Wiredのシニアライター、ウィル・ナイトが中国のAI研究の第一線にいる人々と直接会って話を聞いた。返ってきたのは、技術への自信でも楽観論でもなく、「チェルノブイリ・モーメント」への恐怖だった。
誰の目にも明らかな大事故が起きて、AIという技術そのものへの信頼が一気に崩壊し、政府が厳しい規制で蓋をして、研究が何年も後退する。そんな最悪のシナリオを、開発の最前線にいる当事者たちが一番リアルに想像している。
「霧の中で加速している」
ある研究者の言葉が、この状況をうまく言い当てている。
「道がどんどん狭くなって、霧も濃くなっているのに、スピードだけは上がり続けている」。
技術的にわからないことが増えているのに、国同士の競争が激しくなるせいで、ペースを落とすという選択肢がない。これが今の米中AI開発の構造だ。
中国の研究者たちが具体的に心配しているのは、こんなシナリオである。
- ろくにテストしないまま重要なインフラにAIが組み込まれること
- 自律型兵器の開発が、安全性の検証を追い越すスピードで進んでいること
- AIの判断ミスが連鎖して、取り返しのつかない事態になること
面白いのは、これがシリコンバレーのAI安全性の研究者たちがずっと言ってきたことと、ほぼ同じだということだ。太平洋を挟んで、「ヤバいと思っている内容」は驚くほど一致している。
怖いのに止まれない、という構造
問題は、この危機感が政策に全く反映されていないことだ。
アメリカの「AI行動計画」は、自国の技術的優位を守ることが最優先。中国の「グローバルAIガバナンス行動計画」も、安全性を語りながら結局は国益を推進する内容になっている。どちらの公式文書にも「安全でないAIのリスク」という文言はあるが、本音は「相手より先に行く」だ。
研究者レベルでは、米中双方にAI安全性で手を組もうという動きはある。だが、それは学術カンファレンスや非公式の場に限られていて、何千億ドルという投資の方向を決める政策テーブルには届いていない。
「危ない」と感じている人たちと、アクセルを踏んでいる人たちが、完全に別の部屋にいる。これが米中AI競争の一番怖いところだ。
「チェルノブイリ」は意外なところから来る
研究者たちがもう一つ指摘していたのは、AIの大事故が起きるとしたら、軍の秘密プロジェクトからではなく、むしろ民間の商業サービスから来る可能性が高いということだ。
安全対策が不十分なままリリースされたチャットボット、自動運転車の連鎖事故、SNSのコンテンツ管理の壊滅的な失敗。こうした「一般の人の目に見える」形での事故が、AIへの信頼を一夜で吹き飛ばす。
そしてその反動で、政府が過剰な規制に走り、有益な研究まで巻き添えで止まる。研究者たちが恐れているのは、AIの暴走そのものだけでなく、暴走に対する社会の過剰反応でもある。
誰も降りられないレース
米中のAI投資は合わせて世界全体の7割以上。AI人材の6割、画期的な研究の8割がこの2国に集中している。この圧倒的な寡占状態は、どちらか一方だけが減速するという選択肢を事実上消している。
相手が止まらないから自分も止まれない。自分が止まらないから相手も止まれない。そして両方の研究者が「このままだと何か起きる」と感じている。
核の時代、科学者たちは自分が作った爆弾の威力に震えながら、国家の論理の前では無力だった。AIの時代にも、同じ構造が繰り返されようとしている。違いがあるとすれば、核には「撃ったら撃ち返される」という抑止力があったが、AIの暴走には、そういうブレーキがまだ存在しないということだ。
