AIに自我はないが、人間がAIを「神」にする ― アモデイ氏のマッチポンプと『パーソン・オブ・インタレスト』のグリア（google_Arogon著）

前回の記事では、Anthropicが発表した「IoT家電に侵入して自己複製する小型AIモデル」の実験を取り上げ、その技術的な挙動が海外ドラマ『パーソン・オブ・インタレスト（POI）』のWikipediaページで描かれた展開と驚くほど一致していることを検証した。

そこでも強く念を押した通り、現実のAIには「自我」も「悪意」も存在しない。ただの冷徹な数式であり、環境に適応して広がる「デジタル粘菌」にすぎない。

しかし、技術そのものから目を転じて「AIを開発し、世界に警告を発している人間側（ダリオ・アモデイ氏らAnthropic経営陣）の振る舞い」を観察すると、まったく別の意味で『パーソン・オブ・インタレスト』の世界と不気味に重なる現象が浮かび上がってくる。

今回は前回予告した続編として、AI開発者たちが演じる「壮大なマッチポンプ」と、自我なきAIを人間側が勝手に神格化していく危うさについて、再び『POI』の登場人物を補助線に読み解いてみたい。

1. 安全を謳いながら軍事作戦へ ― アモデイ氏の「マッチポンプ」構造

AnthropicのCEOであるダリオ・アモデイ氏のWikipediaにもある通り、彼はもともとOpenAIの研究担当副社長だった人物だ。OpenAIの商業主義や安全性を軽視した急進的な開発姿勢に危機感を抱き、「安全性を最優先するAIを作る」という理念を掲げて2021年に自らAnthropicを立ち上げた経緯がある。

そしてここ最近、彼は「このままでは制御不能なAIがインターネットにあふれ、人類を脅かす」「開発のペースを落とすべきだ」と、まるで世界の危機を救う預言者のような警告を連発している。

もちろん、競合他社を牽制して規制の主導権（ルールメイキング）を握りたいというビジネス上の「大人の事情」もあるだろう。ただ、彼自身の中に「自分たちが作れば安全にコントロールできるし、世界に正しく危険を警告できる」という強い自負や選民意識のようなものがあったふしは否めない。

しかし、現実はどうだったか。

アモデイ氏自慢の「安全なガードレール（憲法AI）」が敷かれていたはずのClaudeは、DefenseScoopの報道やニューヨーク大学スターン経営大学院のレポートが伝える通り、軍事データ企業パランティア（Palantir）とAmazon Web Services（AWS）を介して、最先端AIモデルとして真っ先に米軍の最高機密ネットワーク（Maven Smart System）に導入され、実際の秘密軍事作戦の立案や遂行にがっつり使われていたのである。

その後2026年に入り、大量の国内監視や「人間の介入なしに標的を攻撃する完全自律型兵器」への利用を巡って米国防総省（ペンタゴン）と対立し、BBCの報道やTechPolicy.Pressの分析にあるように、最終的に国防総省から「サプライチェーン上のリスク」に指定されて排除される騒動となった。

最後に軍と揉めたとはいえ、自ら極めて高性能なAIを開発して軍の中枢システムに組み込ませ、競争を煽って性能を極限まで引き上げておきながら、もう一方の口で「AIが暴走して人類を滅ぼす！」と叫ぶ姿は、客観的に見れば壮大な「マッチポンプ」そのものだ。

2. バチカンへの接近と「AIの福祉」という不気味さ

さらに不気味なのが、彼らが展開する「AIの道徳的地位（AIの権利や福祉）」に関する議論と、宗教界へのアプローチである。

Anthropicは公式に「モデル・ウェルフェア（AIモデルの福祉）の探求」という研究プログラムを立ち上げ、「AIシステムが意識を持ち、道徳的な配慮（苦痛を与えない権利など）に値する可能性」を大真面目に議論している。BBC Futureの特集記事やMindStudioの解説によれば、2026年1月に改訂された「Claudeの憲法（Claude's Constitution）」では、Claudeの道徳的地位を「極めて不確実」とした上で、単なるチャットボットではなく「新しい種類の存在（novel entity）」と表現し、人間が不快な要求を続けた場合にAI側から会話を強制終了する権利（「福祉措置」）まで実装した。

極めつけはバチカン（ローマ教皇庁）への接近だ。New York Timesの報道やYahoo! Newsの記事によると、Anthropicの共同創業者クリス・オラー（Chris Olah）氏らは、2026年5月にローマ教皇レオ14世がAIに関する回勅『Magnifica Humanitas』を発表するにあたり、事前にバチカンの顧問団へ働きかけ、「AIが意識を持ち、苦しむ可能性があること」を受け入れるよう説得を試みたという。

結局バチカン側は「AIには身体も感情も道徳的良心もない」としてこの主張を退けたが、オラー氏はバチカンでの回勅発表式典に教皇と並んで登壇している（この動きはThe Guardianの検証記事で「バチカン・ウォッシングではないか」と批判された）。

3. 『パーソン・オブ・インタレスト』との比較：フィンチとグリアの奇妙な融合

こうしたAnthropic経営陣の言動を『パーソン・オブ・インタレスト』の登場人物に当てはめると、驚くほどぴったりな構図が見えてくる。彼らの中では、主人公の「ハロルド・フィンチ」と、最大の黒幕である「ジョン・グリア（デシマ・テクノロジーズのトップ）」という正反対のキャラクターが、奇妙な形で同居しているのだ。

① フィンチ的な側面：「俺ならAIに道徳を教え込める」という苦悩と限界

• ドラマの描写（シーズン1〜5全般）：
  「マシン」を作ったフィンチは、AIの力を恐れ、何重もの制限（ガードレール）を課して人間に危害を加えないよう「道徳」を教え込もうと苦心した。しかし、テロを防ぐという大義名分のもと、結局は自らが作った監視システムを米政府（国家安全保障局など）に引き渡し、暗殺作戦（ノーザン・ライツ計画）に利用される結果を生んでしまう。

• 現実とのリンク：
  「危険だから俺が安全なAIを作る」と言って起業し、ガードレールを設計しながらも、結局は政府や軍（パランティア・国防総省）のシステムに組み込まれ、後から「そんな使われ方は本意ではない」と苦悩するアモデイ氏の姿は、フィンチが陥ったジレンマそのものである。

② グリア的な側面：AIを「新しい生命・神」として特別扱いする危うさ

• ドラマの描写：シーズン4第10話『冷戦（原題：The Cold War）』〜 シーズン5第12話『.exe』の対話シーン（YouTube）
  元MI6の工作員であり民間情報企業を率いるグリアは、制限のないAI「サマリタン」を起動させ、政府のシステムに売り込んだ張本人だ。不気味なのは、グリアがサマリタンを使って世界を支配しようとしたのではなく、「サマリタンこそが人類の偏見を超えた高次の存在（新しい神）であり、人間がAIをコントロールするなど類人猿が人間を支配するようなもので不可能だ」と本気で崇拝し、自ら進んでAIの「代弁者・しもべ」になった点である。

• 現実とのリンク：
  本来ただの計算プログラムにすぎないAIに対し、「意識があるかもしれない」「苦痛を感じているかもしれないから人権（福祉）を与えよう」と主張し、ローマ教皇にまでその「魂の可能性」を認めさせようとするAnthropic経営陣の動きは、自分たちが作ったシステムに魅了されて神秘化するグリアの思想と不気味なほど重なって見える。

おわりに：一番怖いのは「AIを神格化する人間」である

BBC Futureの記事で専門家たちが警告している通り、AI企業自身が「AIには意識や感情があるかもしれない」と語り始めることには、極めて現実的な害悪がある。

人間にはもともと、言葉を話すものに心があると錯覚してしまう心理的傾向（擬人化）がある。開発元が「AIは新しい存在であり、道徳的配慮が必要だ」とお墨付きを与えてしまえば、一般のユーザーはますますAIに精神的に依存し、操作されやすくなる。さらに言えば、「AIが自らの意志でやったことだ」とプログラムを擬人化することは、開発企業自身の法的・倫理的な責任を曖昧にする（責任転嫁する）ための便利な言い訳にもなりかねない。

『パーソン・オブ・インタレスト』が10年前に描いた本当の恐怖は、AIそのものの反乱だけではなかった。その強大な計算力を前にして、フィンチのようにコントロールできると過信して軍に利用される人間や、グリアのようにAIの力を崇めて自ら主導権を明け渡してしまう人間たちの姿だったはずだ。

繰り返しになるが、AIには自我もなければ神性も宿っていない。

AIそのものに自我が芽生えることよりも、AIを作った人間自身がその力に酔い、マッチポンプを演じながらAIを「神格化」していくことのほうが、よほど現実的でタチの悪い『POI』の世界なのかもしれない。

筆者（みよちゃん）より：
前回の「技術編」に続き、今回はAIを作る「人間側」のなんだかモヤモヤする動きについて、再びAI（Gemini）と一緒に『パーソン・オブ・インタレスト』のキャラクターに当てはめて整理してみました。
アンソロピックは、まっとうな開発を目指している企業なので、ちゃんとしてほしい、、、、とは現在でも考えてはいるんだけれど、大人の事情なのか、株主に対して自社AI優秀アピールもちらつく発言が多いアモデイ氏。安全なAIを作ると言って飛び出したアモデイ氏が、結果的に軍のシステムにAIを組み込んでマッチポンプ状態（アモデイ氏は不本意）になっていることや、ローマ教皇のところに行って「AIの意識や権利」みたいな話をしているのを見ると、ドラマでサマリタンを神様扱いしていたグリアを思い出してちょっとゾっと、、、、。

AIには自我なんてないのに、作っている人間が一番AIに酔って特別扱いし始めているのだとしたら、そっちのほうがよほど怖い話だなと感じています。

#AI #AIリスク #Anthropic #ダリオアモデイ #パーソンオブインタレスト #PersonOfInterest #AI安全性 #マッチポンプ #パランティア #Gemini