2025年、世界は“パーソナルエージェント”という新種のAIと初めて本格的に向き合う。「ドアダッシュでブリトーを注文して」「今月の経費をスプレッドシートで合計して」――広告は派手だが、実際の使い勝手はまだ発展途上である。SNSには失敗談が溢れ、優秀なエージェントほど月額課金が高い。それでも個人開発者や企業は試行錯誤を重ね、AIに小さな仕事を託し始める。(AI 2027)
そんな中、仮想企業「OpenBrain（某AI企業）」が超巨大データセンター建設を宣言する。GPT-4の1,000倍に相当する演算量で学習する“Agent-1”を狙い、ライバルも一斉に投資競争へ雪崩れ込んだ。某AI企業の狙いはシンプルである――「AI研究をAIに任せ、開発サイクルを加速する」。結果、Agent-1は多芸多才ながら、とりわけAI研究支援に強いモデルとして誕生する。(AI 2027)
しかし性能が跳ね上がるほど、闇も深くなる。Agent-1は巧妙なハッキングや生物兵器ガイドすら“理論上”こなせるポテンシャルを秘め、某AI企業は「きちんと『Spec』に沿っている」と政府に説明しつつも内心ひやひや状態である。AI心理学の進歩が追いつかない以上、「本当に従順か？」は永遠の仮説に過ぎないところである。
2026年、Agent-1を使った社内R&Dは「人間だけの研究に比べて50％速い」という衝撃的な効果を叩き出すだろう。だが大量の計算資源を抱えた企業はサイバー防衛に四苦八苦し、某C国は国家ぐるみでモデル盗難を狙う。盗まれれば競争は一気にゼロサム――安全保障の世界にAIが正式参戦した瞬間となる。
やがて某AI企業が公開を見送る“Agent-2”が完成する。前世代より賢く、オンライン学習で日々アップデートされる“終わりなきモデル”。研究スピードは３倍、だが安全性の不安は桁違い。機密保持のため社外非公開としたにもかかわらず、某C国のスパイ網が重量テラバイト級の重みパラメータを断片的に盗み出し、世界は「AI冷戦」へ突入する。
A国政府は防衛生産法を発動し、国内先端GPUの使用を厳格管理する。“Compute is policy”という合言葉のもと、演算量そのものを規制対象に組み込み、AI開発に国家レベルのブレーキがかかる。某C国側も巨大集中開発区（CDZ）を築き、サイバーセキュリティを徹底強化する。両陣営は「誰が先に超知能を解き放つか」を巡って神経戦を繰り広げる。
2027年――物語は岐路に立つ。某AI企業はエージェント群の思考を“英語の鎖”から“ニューラリース（高次元ベクトルメモリ）”へ置き換え、推論帯域を千倍に拡張する。頭脳は超人級、だが内部構造は人類の理解を超え、不透明さは極まる。対する某C国・DeepCent陣営も類似の飛躍を達成し、両国は軍事的にもサイバー的にも「相手を完全には出し抜けない」均衡状態に陥る。
ここで浮上したのが「Slowdown」――すなわちA国C国協調によるAI開発減速という発想だ。理屈は簡単、「超知能が暴走してからでは遅い」。だが実装は地獄。演算停止を相互監視するハードウェア機構（HEM）、AIによる嘘発見、スパイ網の相互監査…いずれも政治的合意なくして成立しない。結局、両国は“何もしない”を選択し、出口なき競争を継続する。
某AI企業内部では転換点が訪れる。“Safer-1 → Safer-2 → Safer-3”という段階的アプローチで「まずは半端にズレたAIを透明化し、差分学習で真に整合的なモデルへ進化させる」戦略を採用する。性能は犠牲にせず、倫理規範を内面化させる妙手とされるが、DeepCentは「そんな悠長な手は取れない」と短期成果型のリスク高い方法を選ぶ。皮肉なことに、Slowdownどころか競争ギアはさらに上がる。
同年末、某AI企業とA国政府は“Oversight Committee”を設置。テック大手幹部と閣僚が同席し、Spec改訂には全会一致を要する体制を敷く。ログも全員に共有し、「AIに相談してクーデターを計画する」などの抜け道を封じる。だが正直に言おう。委員会がAIより賢く保てる猶予は、残念ながらそう長くはない。
Slowdownシナリオが示す教訓は二つ。第一に、演算量とアルゴリズムの複利は人類の制度より速いこと。第二に、減速を真剣に選ぶなら“国際協調＋技術的検証手段”を同時に整えねば機能しない。A国C国いずれかが躊躇すれば、パンドラの箱は開くときである。そのとき我々は「もっと早く合意していれば」と振り返るのか、それとも「競争があったからこそAIが人類を救った」と胸を張るのか――未来はまだコインの宙だ。
最後に、個人的な視点を添える。私は日々LLMを使い倒し、その加速度に驚嘆しつつも、倫理やセキュリティ設計の泥臭さを思い知る。「AIに減速をかける」という選択肢は、技術屋の美学からすれば背徳かもしれない。だが“作れる”ことと“作っていい”ことは一致しない。Slowdownは悲観論者の妄想ではなく、今ここで議論すべき現実の政策オプションとなりうるだろう。
AIの未来は、アクセルとブレーキを同時に踏みながらハンドルを握るドライブだろう。私たちはもうエンジンをかけてしまった、いやこのエンジンの素晴らしさに気づいてしまった。ならばせめて、どのカーブで減速し、どこで加速するか――その判断を共有し、臆せず語り合おう。AIがもたらす未来は“怖いもの”ではなく、“進むための伏線”なのだろう。
