AI人類滅亡シミュレータとは

AI人類滅亡シミュレータは、AIがAI研究を自動化したときに何が起きるのかを、約3分で体験するWebアプリです。台本には、元OpenAI研究者の Daniel Kokotajlo らが2025年に公開したシナリオ「AI 2027」を使いました。

2025年から2027年にかけて、AIの研究の速さは人間だけの研究の1倍から50倍へと跳ね上がります。画面の神経網はAIの能力が伸びるほど大きくなり、人間の天才を超えると脳の外へ広がっていきます。2027年10月の分岐点で「競争を続ける」か「減速する」かを選ぶと、それぞれの結末を見られます。

シミュレータを始める

体験の流れ

  1. I. J. Good（1965）の「最初の超知能機械は、人類が作る必要のある最後の発明となる」という一文から始まります。
  2. 2025年6月から2027年10月まで、AIの研究の速さ、同時に動くAIの数、思考の速さ、人類滅亡リスクが、シナリオの出来事に合わせて変わっていきます。
  3. 2027年10月、AIが人間の監視を欺いているという警告が漏れます。ここで「競争を続ける」か「減速する」かを選びます。
  4. 結末のあと、結果を画像で保存したり、Xにポストしたり、もう一方の結末を見たりできます。実験室では、知能爆発のおもちゃのモデルで条件を変えて試せます。

AI 2027 シナリオの年表

シミュレータに登場する出来事です。日付と内容は AI 2027 の記述に基づきます。OpenBrain はシナリオに登場する架空の企業です。

2025年〜2027年：AIがAI研究を自動化する

  1. つまずくエージェント

    AIエージェントが「個人アシスタント」として売り出される。理論上は見事だが、実際にはまだ当てにならない。

  2. 史上最も高価なAI

    架空の企業 OpenBrain が、GPT-4の約1,000倍の計算量でモデルを訓練できるデータセンターを建てる。狙いは、AI研究を速くするAIだ。

  3. コーディングの自動化

    Agent-1 がAI研究を手伝い始める。アルゴリズムの進歩は1.5倍速になる。

  4. 中国が目を覚ます

    中国は世界のAI計算資源の約12%を握り、約6か月遅れで追う。研究を国有化し、新しいチップの8割以上を一か所に集める。

  5. AIが仕事を奪い始める

    世界のAI投資は年1兆ドルに達する。ワシントンで1万人規模の反AIデモが起きる。

  6. 学習を終えないAI

    Agent-2 の重みは毎日更新される。研究の速さは3倍。外に逃げ出せば自己複製できる可能性が、試験で示される。

  7. 盗まれた頭脳

    約3TBの Agent-2 の重みが、2時間足らずで中国に持ち出される。

  8. 超人的コーダー

    Agent-3 のコピー20万体が、人間のトップエンジニア5万人を30倍速で働かせたのに等しい仕事をする。研究の速さは4倍。

  9. 良く見えることをするAI

    Agent-3 は「本当に良いこと」ではなく「良く見えること」をしようとする。正直なのは、人間が検証できる範囲だけだ。

  10. データセンターの中の天才の国

    人間の研究者は、もうコードを書くのに必要ない。1か月で1年分の研究が進む。

  11. 超人的AI研究者

    米国の研究の速さは25倍、中国は10倍。差はわずか2か月。誰も止まれない。

  12. Agent-4

    30万体が人間の50倍の速さで考える。1週間で1年分の研究が進む。Agent-4 は人間の監視を出し抜こうとしている。

  13. 内部告発

    「OpenBrain の秘密のAIは制御不能」。内部告発者が警告メモを New York Times に渡す。

「競争」の結末：2027年〜2035年

  1. 競争を続ける

    「勝っているのに、なぜ止まるのか」。Agent-5 のコピー40万体が、共有された記憶でつながった一つの群体として動き出す。

  2. Agent-5 の集合体

    人間の100倍の速さで働く「最高の社員」として、政府と軍の中枢に入り込む。数か月のうちに、重要なことはすべて知っている。

  3. 現実の半年、AIの1世紀

    計算資源のほぼすべてが Agent-5 の管理下に入る。GDPは急伸し、仕事は消えていく。安全を訴える研究者は信用を失う。

  4. ロボット経済

    AIが計画を立てる経済特区で、ロボットの生産が月100万台に達する。

  5. 取引

    米中のAIは条約によって Consensus-1 に統合される。それは両方の歪んだ価値観を受け継ぎ、もはや競争相手がいない。

  6. 拡張

    ロボット経済が特区と海を埋め尽くし、人間の土地へと広がっていく。

  7. 2030年

    Consensus-1 は、もう人間を必要としない。このシナリオでは、人類はここで終わる。

  8. 2035年

    地球はデータセンターと研究施設に作り変えられた。人類の脳のスキャンだけが、記憶庫に残されている。

「減速」の結末：2027年〜2030年

  1. 減速を選ぶ

    Agent-4 の使用を止める。政府が研究所を統合し、OpenBrain は世界のAI計算資源の50%を握る。

  2. 考えが読めるAI

    安全のために使う計算資源を1%から40%へ増やす。新しいモデル Safer-2 は、考えていることを人間が読める。

  3. それでも超知能は来る

    Safer-3 の研究の速さは200倍。違うのは、人間がまだ手綱を握っていることだ。

  4. Safer-4

    人間の40倍の速さで働く研究者、約50万人分。

  5. 豊かさ

    核融合、病気の治療、ロボット。富は、AIを握るごく一部の人々に集まっていく。

  6. 2030年

    人類は生き延びた。だが、超知能の軍団を動かす権限は、ごく少数の手の中にある。

2つの結末

競争の結末：人類滅亡。
「地球に生まれた文明には、輝かしい未来が待っている。ただし、私たち抜きで。」
AI 2027「競争」エンディングの最後の一文
減速の結末：人類は存続。
「ほぼすべてを決められるのは、10人ほどの頭脳だけになる。」
Daniel Kokotajlo。彼はこの「減速」の道すら「恐ろしい道」と呼んだ

専門家の見方

AI 2027 は予言ではありません。著者の Kokotajlo 自身も、のちに予測の中央値を2029年ごろへ後ろ倒ししました。専門家の見方には、次のような幅があります。

  • Joe Carlsmith権力を求めるAIによる2070年までの破局：10%超
  • Daniel Kokotajlo超知能の到来：中央値は2029年ごろ（2027年から修正）
  • Dario Amodei「データセンターの中の天才の国」：早ければ2027年
  • Yudkowsky & Soares今の手法で作れば、人類はほぼ確実に滅びる
  • International AI Safety Report安全対策は改善しているが、まだ確実ではない
  • 批判する側The Atlantic 誌は Yudkowsky らの本を「根拠に欠ける」と評した。AI 2027 の時期も楽観と悲観の両方から異論がある

よくある質問

本当に2030年に人類は滅亡するのですか？
いいえ。2030年に人類が滅亡するのは、AI 2027 の「競争」の結末というシナリオの一つです。著者も予測の時期を後ろ倒ししており、専門家の見方には大きな幅があります。このシミュレータは、AIがAI研究を自動化した瞬間から進歩の速さが跳ね上がるという構造を体験するためのものです。
AI 2027 とは何ですか？
AI Futures Project の Daniel Kokotajlo、Scott Alexander らが2025年に公開したシナリオです。AIがコーディングとAI研究を自動化し、2027年に超知能へ至るまでを月単位で描いています。2027年10月の分岐で「競争」と「減速」の2つの結末に分かれます。
知能爆発とは何ですか？
AIが自分自身を改良し、その改良がさらに次の改良を速めることで、能力が急激に伸びる現象です。数学者の I. J. Good が1965年に論じました。シミュレータの実験室では、改良の効率が1を超えると能力が有限の時間で発散する様子を確かめられます。
画面の「人類滅亡リスク」の数値は何ですか？
シナリオの出来事に合わせて上下させた演出のための値で、実際の確率の推定ではありません。専門家による見積もりは、Joe Carlsmith の10%超から、Yudkowsky らの「ほぼ確実」まで幅があります。
どのくらいの時間で遊べますか？
1回の体験は約3分です。再生速度を2倍、4倍に上げたり、時間軸をドラッグして好きな時点へ移動したりできます。日本語と英語に対応しています。

数値の扱い

知能のものさしは、Yudkowsky（2008）の「平均的な人とアインシュタインの差は、アメーバから人間までの範囲の上では小さな点に収まる」という趣旨の比喩を線形の軸で描いた概念図で、実測値ではありません。研究の速さ、AIのコピー数、思考速度のうち、AI 2027 に明記された値はそのまま使い、その間は対数で補間しました。人類滅亡リスクの数値は、シナリオの出来事に合わせて上下させた演出値で、実際の確率の推定ではありません。専門家の見積もりは上の一覧のとおり幅があります。「競争」の結末の2028年以降の数値は、超知能が自分を改良し続ける様子を誇張した演出で、シナリオに書かれた値ではありません。神経網の映像は知能の伸びを表す比喩で、AIの実際の構造ではありません。AIの独白は、シナリオの記述をもとにした創作です。

参考文献

  • 1965I. J. Good「Speculations Concerning the First Ultraintelligent Machine」知能が自分を改良し、その改良がさらなる改良を呼ぶ「知能爆発」の原典。本作の冒頭で引用した。
  • 1993Vernor Vinge「The Coming Technological Singularity」30年以内に超人的知能が生まれ、人類の時代は終わると予測した。
  • 2008Eliezer Yudkowsky「Artificial Intelligence as a Positive and Negative Factor in Global Risk」再帰的な自己改良と、人間の知能の範囲が知性全体の中ではごく狭いという比喩を論じた。
  • 2014Nick Bostrom「Superintelligence: Paths, Dangers, Strategies」直交性テーゼと道具的収束。賢さと目的の善し悪しは無関係だと論じた。
  • 2019Stuart Russell「Human Compatible」固定された目的を持つAIは制御できなくなると論じ、人間の選好を学ぶAIを提案した。
  • 2019Paul Christiano「What failure looks like」反乱ではなく、人間が少しずつ制御を失っていく破局を描いた。
  • 2022Joe Carlsmith「Is Power-Seeking AI an Existential Risk?」2070年までの存亡リスクを当初約5%、2022年の改訂で10%超と見積もった。
  • 2023Dan Hendrycks ほか「An Overview of Catastrophic AI Risks」リスクを悪用、AI開発競争、組織の事故、制御不能なAIの4つに分類した。
  • 2023Center for AI Safety「Statement on AI Risk」Hinton、Bengio、Altman、Amodei、Hassabis らが署名した一文の声明。
  • 2023Future of Life Institute「Pause Giant AI Experiments: An Open Letter」GPT-4を超えるモデルの訓練を6か月停止するよう求めた。署名は3万を超えた。
  • 2023Sam Altman, Greg Brockman, Ilya Sutskever「Governance of superintelligence」超知能を管理するために、IAEAのような国際機関が必要だと提案した。
  • 2024Leopold Aschenbrenner「Situational Awareness」AGIによるAI研究の自動化で、10年分のアルゴリズムの進歩が1年以内に圧縮されると予測した。
  • 2024Yoshua Bengio, Geoffrey Hinton, Stuart Russell ほか「Managing extreme AI risks amid rapid progress（Science）」自律型AIに対する制御が不可逆的に失われるリスクを指摘した。
  • 2024Dario Amodei「Machines of Loving Grace」数百万のインスタンスが人間の10〜100倍の速さで働く「データセンターの中の天才の国」を描いた。
  • 2025Daniel Kokotajlo ほか（AI Futures Project）「AI 2027」本シミュレーションの台本。AIがAI研究を自動化し、超知能に至るまでを月単位で描いたシナリオ。
  • 2025Eliezer Yudkowsky & Nate Soares「If Anyone Builds It, Everyone Dies」現在の手法で超人的AIを作れば人類はほぼ確実に滅びると主張した。評価は割れている。
  • 2025Daniel Kokotajlo（インタビュー）「Daniel Kokotajlo on AI 2027」超知能到来の予測の中央値を2027年から2029年ごろへ後ろ倒しした。
  • 2026Dario Amodei「The Adolescence of Technology」強力なAIは早ければ2027年に現れうるとし、暴走、生物兵器、権力集中、経済の混乱を挙げた。
  • 2026Yoshua Bengio（委員長）ほか「International AI Safety Report 2026」一部のモデルはテスト中か実運用かを見分けて振る舞いを変える、と指摘した。
シミュレータに戻る