相互に確かめられる関係をガラスの研究棟と橋で表した生成概念映像です。実在施設や成立済みの国際制度を描いたものではありません。
「AIの進歩が速すぎる。少し速度を落とそう」
そう言われたとき、私はもう一つの疑問が浮かぶ。こちらがアクセルを緩めたら、競争相手も緩めるのだろうか。
一社の経営判断なら、自社の研究を止めることはできる。一国の制度なら、その国内へ働きかけることもできる。でも、知能をめぐる競争は国境の内側だけでは終わらない。
自分たちが止まることと、世界が止まることは違う。この違いを置き去りにしたままでは、安全のための提案も、実際に効くものにはならないと思う。
開発する側からも、「速度を調整しよう」が出てきた
この問題は、AIに懐疑的な人だけが論じているわけではない。AnthropicのCEO、Dario Amodei氏は「We Must Pace the Frontier」で、最先端AIの進歩に合わせて安全性の確認時間を確保するべきだと提案している。
ただし、彼が言うのは、あらゆるモデル訓練を止めるという単純な一時停止ではない。外部評価者が企業の内部へ継続的にアクセスし、企業間、さらに政府間でも調整を進める三段階の構想だ。国際的な競争と、約束が守られているかの検証が難しいことも、本人が論じている。Amodei氏の提案
つまり、「止めれば解決すると思っているのか」と片づけてしまうのは正しくない。提案する側も、その難しさを分かっている。
そのうえで私は、その調整が、参加しない国や企業にもどう効くのかを知りたい。善意の参加者だけが負担を引き受ける形では、長く続かないからだ。
取り合っているのは、チャットの売り上げだけではない
AIの競争を、便利なアプリのシェア争いとして見ると、この緊張感は分かりにくい。
より強いAIを持つことは、研究、設計、開発、分析を進める力を持つことでもある。そこで生まれた改善が次のAI開発にも効けば、先に進んだ側が、次へ進むための力まで手に入れる。
たとえばGoogle DeepMindは、Geminiを使うAlphaEvolveが、Gemini自身の訓練に使う計算処理の改善にも役立ったと報告している。AIを育てる仕事へ、AIの能力が戻っているわけだ。AlphaEvolveの公式発表
もちろん、その一例だけで能力が無限に増幅すると証明されたわけではない。それでも、ここで得られる優位が「次の商品が少し良くなる」だけではないことは想像できる。
知能が、発明を助ける。発明が、生産や研究の能力を変える。ロボットへつながれば、現実の物を動かす力にもなる。
私がこの競争を重く見るのは、そこだ。少し遅れても次の商品で取り返せる、というだけの話で済むのか。企業も国家も、その不安を持つだろう。
「相手が止まらないなら、こちらも止まれない」
一方だけの減速と相互に確認できる調整を比べる概念図。点の位置は実測値ではなく、検証による性能の均等化や競争の停止を保証するものでもありません。
二つの国が、互いにAI開発を進めていると考えてみる。
両方が同じ条件で時間を取れば、安全性の検証を進められるかもしれない。だが、片方だけが止まり、もう片方が研究を続ければ、差が開く可能性がある。
さらに厄介なのは、相手が実際には約束を守っていても、「裏で続けているのでは」と疑えば、こちらには続ける理由が生まれることだ。相手も同じように考える。誰かが悪意を持っていなくても、止まりにくい構造ができる。
私はここに、軍拡競争に通じる危うさを感じる。AIと核兵器が同じだと言いたいのではない。一方的な自制が、相手への不安によって難しくなるという構造の話だ。
しかもAIには、医療や研究、教育、生産を助ける大きな用途もある。危険な利用を抑えることと、役に立つ研究まで遅らせることは、できるだけ分けて考えたい。大ざっぱなブレーキでは、その恩恵を待つ人たちも足止めされる。
約束はできる。次は、その中身を確かめられるか
約束・評価・検証は、それぞれ異なる役割を持つ。企業の誓約から、実際の行動を外部が確認できる仕組みまでを分けた整理図。世界全体がいま特定の一段目にいるという意味ではありません。
だからといって、国際協調は無理だと言い切るつもりはない。約束を交わした例は、すでにある。
2024年のAIソウル・サミットでは、米国、中国、中東などの企業を含む16社が、安全性に関する共通の約束を公表した。深刻なリスクを十分に抑えられない場合には、開発や配備を行わないという内容も含まれる。英国政府の発表
これは、何も合意できないわけではないことを示している。一方で、署名したことだけから、すべての企業が同じ基準で運用し、世界中の開発を確認できるようになったとまでは言えない。
たとえば「危険な能力があるなら次へ進まない」と約束したとする。何を危険とするのか。誰が、どの試験で測るのか。自社に不利な結果も見せるのか。別の名前で開発を続けた場合に、どう把握するのか。
細かい話に見える。でも、こうした中身がそろって初めて、「相手も同じ条件を守っている」と考えられる。信用してください、の先へ進む仕組みが要る。
検証の方法そのものが、研究されている
この難しさに対して、確認する方法を具体的に考える研究もある。
2026年6月公開の「Verifying Restrictions on Frontier AI Research」は、AI研究に制限を設けた場合の検証方法を検討し、内部告発、訓練コードのレビュー、情報収集など28の候補を整理している。著者は、一部は実用化の準備ができておらず、さらに検討すると望ましくない方法もあり得ると記す。検証手段を論じた研究
これは、すでに世界で合意された査察制度ではない。それでも、「確かめようがない」で会話を止めず、どこまで確かめられるかを設計する仕事が始まっている。
AIも計算機や電力を使う以上、物理的な手がかりが全くないわけではない。ただ、計算量だけで研究の内容や到達した能力がすべて分かるわけでもない。設備を見る、記録を見る、動作を試す。複数の手がかりをどう組み合わせるかが重要になるだろう。
Amodei氏が提案する外部評価者の継続的なアクセスも、この問題への一つの答えだ。企業が選んだ説明資料だけではなく、内部の仕事を見られるようにする。ただ、それを一社で試すことと、国際的に同じ条件を成立させることの間には、まだ大きな距離がある。
止める議論にも、前へ進むための設計が要る
私の立場は、危険があっても構わず走れ、ではない。
ただ、速度を落とせと求めるなら、誰がどの条件で落とすのか、守られているとどう確かめるのか、参加しない相手にはどう向き合うのかまで、一緒に考える必要があると思う。
相手が従わない可能性があることは、すべての安全対策を無意味にする理由にはならない。事故を減らす運用改善も、能力を確かめる評価も、共同研究も進められる。一方で、善意だけで世界の競争を止められるかのように語るのも、現実から離れてしまう。
知能を増幅する技術が生まれた以上、これを使って何かを成し遂げたい人は、世界中にいる。その力は恐ろしくもあるし、途方もなく魅力的でもある。
「止めよう」で終わらず、安心して進める条件を、競争の現実に届く形で作る。私は、その仕事のほうへ知恵を集めてほしい。より多くの人が、この技術の恩恵を受け取れる未来のために。
