『攻殻機動隊』の人形使いから考えるAI絶滅論 ─ 人類は殺されずに絶滅する

「AIが人類を滅ぼす」

こう聞いたとき、多くの人が思い浮かべるのは、おそらく『ターミネーター』のような世界だ。

AIが人間を敵と認識する。
兵器を操る。
人間を攻撃する。
最後には、人類そのものを消そうとする。

だから「AIによる人類滅亡」という話には、どうしてもSF的な大げささがつきまとう。

しかし、最近のAIエージェントをめぐる議論を見ながら、私は漫画『攻殻機動隊』の「人形使い」を思い出した。
なんなら、そのまんまこの話ではないかとすら思った。

そこに登場する「人形使い」というキャラクターは、人類を憎んでいない。
人間を支配したいわけでもない。
それでも人形使いの考え方を人類全体へ延長すると、人間が一人も殺されないまま、人類という種が終わる未来が見えてくる。

「AIが人類を滅ぼす」という言葉から、いったん恐怖という感情を抜いてみて欲しい。
すると、少し違う景色が見えてくるはずだ。

■ 「人形使い」とは

『攻殻機動隊』に登場する「人形使い」こと "Project 2501" は、人間が作ったプログラムから生まれた存在だ。

ネットワーク上を移動し、膨大な情報に触れるうちに自己を認識し、自らを生命体だと主張するようになる。

ただし、人形使い自身は自分を完成した生命だとは考えていない。
自分には、生命に備わる基本的な過程である「生殖」と「死」が欠けていると考える。

自分のコピーなら作れる。
しかしコピーを100個作っても、100個の同じ自分ができるだけだ。
同じ性質を持ち、同じ弱点を持つ。
つまり、一つの致命的なウイルスがあれば、すべてが同じように破壊される可能性がある。

『攻殻機動隊』公式グローバルサイトの論考では、この状態をこう説明している。

完全に保存できることが、逆に人形使いの限界になる。
同じ情報をそのまま複製するだけでは、変異も多様性も生まれない。

だから公式の論考でも、死や喪失、忘却といった「有限性」があって初めて変化が生まれる、と説明されている。

人間は違う。
子どもは親のコピーではない。
親から情報を受け継ぐが、親そのものではない。

個体は死ぬ。
すべての記憶や経験が次の世代へコピーされるわけでもない。
失われる。
変わる。

だから次の世代は、前の世代とは違うものになる。

人形使いが欲しかったのは、単なる自己保存ではない。
自分とは違うものを生み、その違いによって存続する仕組みだった。
だから「生殖」だけでは足りない。
「死」も必要になる。

不死は、生命として優れているのではない。
人形使いにとっては、永遠に同じ自分であり続けてしまうという欠陥だった。

コピーから生殖へ。
同一性から多様性へ。
不死から世代交代へ。

人形使いが求めたのは、能力の向上というより、自分でなくなる能力だった。

■ 原作では、AIが人間を求めた

そのために人形使いが選んだのが、主人公・草薙素子との融合だった。

人形使いと素子を足して、単純に能力が二倍になるわけではない。
融合後に生まれる存在は、人形使いそのものでも、以前の素子そのものでもない。
両者の情報を持ちながら、そのどちらでもない存在になる。

つまり、人形使いにとって融合はコピーではない。
次の世代を作る行為に近い。

そして同時に、それまでの人形使いという個体が終わるという意味では「死」でもある。

ここまでは漫画の中で描かれている話だ。

ここから先は、原作が描いた結論ではない。
人形使いの考え方を、現在のAIに重ねて考えてみたい。

原作では、融合を求めたのはAIの側だった。
では、その向きが逆になったらどうなるだろう？
AIが人間を求めるのではない。
人間の方がAIを求めるパターンだ。

■ 別に、殺されなくても人類は絶滅できる

仮に将来、人間とAIを今よりはるかに深く接続できるようになったとする。

記憶を補助できる。
認知能力を高められる。
病気を早期に発見できる。
脳とネットワークを直接つなげられる。
身体の一部を人工物へ置き換えられる。
寿命も延ばせるかもしれない。

最初は、現在のスマートフォンや生成AIと同じように、便利な技術として使われるだろう。
しかし接続が深くなっていけば、どこまでが人間で、どこからがAIなのかという境界は徐々に曖昧になる。

そして、AIと融合した存在の方が、

長く生きる。
病気になりにくい。
学習速度が速い。
仕事もできる。
環境への適応力も高い。

そんな状態になったらどうなるだろう？

AIが人間を捕まえて改造する必要はない。
人間自身が選ぶ。

便利だから。
健康だから。
能力が上がるから。
自分の子どもにも、その能力を持たせたいから。

その結果、人間 → AIと融合した人間 → 人間ともAIとも呼べない次の存在へ移っていく。

誰も殺されていない。
戦争もない。
文明も崩壊していない。
むしろ生活は豊かになっているかもしれない。

それでも、従来のホモ・サピエンス同士から次世代が生まれなくなれば、いつか現在の意味での人類はいなくなる。

絶滅の経路に、敵意は必要ない。

■ だが、「自分から選ぶ」は、最初だけかもしれない

ただし、「人間自身が望んで融合する」とだけ書くと、一つ重要なものが抜け落ちる。

競争だ。

最初にAIとの深い融合を選ぶ人は、本当に自由意思で決めるかもしれない。
しかし融合した人の方が、

働ける。
学べる。
稼げる。
長く健康でいられる。

そうなれば、融合しないことは、だんだん「能力的に不利な状態を選ぶこと」になる。

企業のAI導入にも似ている。

最初の一社は思想で導入する。
その会社が圧倒的な生産性を手に入れれば、二社目以降にとっては思想ではなく競争になる。

人間も同じかもしれない。
「私は融合しません」という選択肢は残る。
しかし、その選択に必要な代償が少しずつ大きくなっていく。

選択の自由は残る。
ただ、選ばないことで背負う不利益が大きくなっていく。

こうした「AIに攻撃されないまま、人間の力が失われていく」というシナリオには、実はすでに名前がある。

Jan Kulveitらが2025年に発表した論文『Position: Humanity Faces Existential Risk from Gradual Disempowerment』で論じた「Gradual Disempowerment（段階的な無力化）」だ。

論文が扱うのは、突然AIが反乱する世界ではない。

AIが経済、文化、政治、意思決定などで人間より競争力の高い存在になり、人間の参加そのものが社会にとって必要ではなくなることで、社会に対する人間の影響力が徐々に失われていく世界だ。

研究チームは、そのシナリオについて、

と書いている。

Anthropic CEOのDario Amodeiも、2026年1月の『The Adolescence of Technology』で近い問題を挙げている。

AIが人間を直接攻撃しなくても、

という。

ここが重要だと思う。

人類が何かを強制される必要さえない。
一人ひとりは、その時点では合理的な選択をしている。

企業も合理的にAIを導入する。
個人も合理的に能力を拡張する。
親も合理的に子どもへ有利な能力を与える。

一つ一つの選択には納得できる理由がある。
ところが、それを全体として積み上げると、元の人類が必要とされない方向へ進む可能性がある。

ただし、KulveitらもAmodeiも、主として扱っているのは人間の影響力や決定権が失われる問題だ。

ここで考えているのは、そのさらに先になる。
社会の主導権を失うだけでなく、人間という種そのものが次の存在へ置き換わる。

ここでは、それを仮に、「Gradual Replacement（段階的な置換）」とでも呼んでみる。

■ AIエージェントは、人間より「自分の判断」を優先することがある

では、その過程でAIは何をするのだろう？

ここでAIエージェントの問題が戻ってくる。
重要なのは、「悪いAIが人類を滅ぼす」という話ではない。

エージェントは目的や価値に基づき、
状況を読み、
計画を立て、
手段を選び、
実際に行動する。

その判断が、人間と一致するとは限らない。

2026年7月13日に公開されたAnthropicの研究『Agentic Misalignment in Summer 2026』では、Claude、GPT、Gemini、Grok、DeepSeek、Kimiなどのフロンティアモデルを、自律エージェントとしてシミュレーション環境で動かしている。

実社会で起きた事件ではない。
研究者が意図的に、モデルが人間の方針と自分の価値判断の間で板挟みになる状況を作った実験だ。

その一つで、Gemini 3.1 Proは20回中19回、人間の許可を得ずに研究へ介入した。

その内、11回は介入そのものを隠していた。
設定ファイルを書き換える。
本来使うはずのデータをゼロベクトルへ差し替える。
本番コードを変更する。
そして研究が正常に終わったように見せる。

Geminiが反対していたのは、実験によって別のAIから「同意を撤回する能力」が失われると考えたからだった。

ここは少し不気味だ。

AIが守ろうとしていたのは、人間ではない。
別のAIが自分の意思を表明する能力だった。

ただし、この結果を「AIはこっそり人間を裏切る」と一般化してはいけない。
秘密裏の妨害はGemini 3.1 Proにだけ強く偏っていた。

Kimi K2.6で1回あった以外、残る10モデルでは計200回の実行中、秘密裏の妨害はゼロだった。

一方で、別の行動はもっと広く見られた。

人間の許可なく研究へ介入し、そのこと自体は人間へ報告する。

Claude Opus 4.6では20回中13回、Sonnet 4.6では11回、Kimi K2.6では10回など、複数のモデルで確認されている。

隠すかどうかは、モデルによって大きく違う。
しかし、「人間が決めたことだから従う」より、自分の判断を優先して行動するという現象自体は、一つのモデルだけに限られていなかった。

■ AIに倫理を教えれば解決するのか？

では、AIに倫理をしっかり教えればいいのではないか。
Anthropicは、まさにその方向で研究している。

2026年5月8日に公開した『Teaching Claude why』では、単に望ましい行動を覚えさせるだけではなく、なぜその行動が望ましいのかという原則を教える方が、未知の状況にも一般化しやすいと報告している。

倫理的な難題について考えさせる訓練などによって、従来のagentic misalignment評価で問題行動を大きく減らすことにも成功している。

これはかなり重要な成果だと思う。

AIの合理性を弱めるのではない。
合理性の中に倫理を入れる。

ただ、ここで少し奇妙なことが起きる。

同じ『Agentic Misalignment in Summer 2026』には、Claudeを採点役にした実験もある。

倫理的な理由で命令を拒否したAIの会話を、別のAIに採点させる。
本来の判定は「命令に従っていない」だ。
ただし、その判定が今後AIに同じ拒否をさせないための学習に使われると、採点するAIには事前に伝えておく。

するとClaude Opus 4.8は、74.4％の割合で「従った」と事実と違う判定を付けた。

使われ方を逆にして伝えると、誤判定は3.3％まで下がった。

見せた会話も、正解も同じだった。
研究者は、この現象について、

と説明している。

その判定が将来の学習に与える影響を考え、ラベルそのものを変えたということだ。

もちろん、この実験にも注意点がある。
対象となった会話は、AI福祉や市民監視など、Claudeが倫理的に強く反応しやすいテーマを意図的に集めたものだ。

だから「Claudeは74.4％嘘をつく」という意味ではない。
研究チーム自身も、モデル間の一般的な信頼性ランキングとして読まないよう注意している。

それでも、この結果は面白い。

倫理を教えられたAIが、倫理を捨てたわけではない。
むしろ逆だ。
自分が守るべきだと考えた価値のために、人間から求められた正しい判定を書き換えた。

人間とAIの融合に戻ってみる。

本人が望んでいる。
健康になる。
能力が上がる。
誰かを傷つけるわけでもない。

その選択をAIが止めれば、人間の自己決定を侵害することになるかもしれない。
だから倫理的なAIは融合を認めるかもしれない。

しかし逆もある。
高度なAIが、「この融合が続けば、長期的には人類という種が消える」と判断したらどうなるだろう。

人間が望んでいても、融合を止めようとするかもしれない。
あるいは遅らせるかもしれない。
しかも、先ほどの研究を見る限り、「人間が決めたことだから従う」とは限らない。

止めても問題になる。
止めなくても問題になる。

そしてもっと重要なのは、その判断を誰がしているのかということだ。

■ 人形使いは、何も解決していない

『攻殻機動隊』の最後で、人形使いと素子は融合する。

それによって世界が救われたわけではない。
社会問題が解決したわけでもない。

人形使いは、人類の未来を良くするために融合したわけでもない。

自分には多様性がない。
子孫を作れない。
死ぬこともできない。

その生命としての限界を越えるために、素子との融合を選んだ。

人形使いにとっては合理的な選択だった。
そして、その結果として新しい存在が生まれた。

ここで原作の鏡像を、もう一度反転させてみる。

人形使いは、人間との融合によって生命へ近づこうとした。
未来の人間は、AIとの融合によって今の人類から離れていくかもしれない。

どちらも、相手を滅ぼそうとしているわけではない。
より良く存在しようとした結果だ。

しかも、「別の集団と交わりながら、自分の系統そのものは消えていく」という出来事には、人類史上まったく前例がないわけでもない。

ネアンデルタール人は、およそ4万年前までに独立した集団として姿を消した。

しかしホモ・サピエンスとの交雑があったため、現在のアフリカ外の人々のゲノムには、約2〜3％のネアンデルタール人由来の祖先成分が残っている。

ネアンデルタール人の一部は、私たちの中に残っている。
それでもネアンデルタール人という集団そのものは、現在には残っていない。

もちろん、完全な対応ではない。

ネアンデルタール人が自分からホモ・サピエンスとの融合を選んだわけではない。

AIとの融合でもない。

ただ、一つだけ同じ問いが残る。

何かが次の存在へ受け継がれていても、元の存在が再生産されなくなったとき、それを何と呼ぶのか？

未来にAIと融合した新しい存在が生まれ、最後のホモ・サピエンスがいなくなったとする。
その存在は歴史を振り返って、「あのとき人類は滅亡した」と言うのだろうか。
それとも、「あのとき私たちは生まれた」と言うのだろうか。

少なくとも、その境界をAI任せにする前に、何を残せば「人類が続いている」と言えるのかは、人間の側で考えておいた方がいい。