AIは本当に“内省”を始めているのか？——Anthropic共同創業者の衝撃的スピーチをめぐって

ローマ教皇レオ14世は5月25日、世界のカトリック教会に向けた初の回勅（公的書簡）『マグニフィカ・フマニタス（人間性の偉大さ）——AI時代における人間の尊厳の擁護について』を発表しました。
『マグニフィカ・フマニタス』92節は、以下のように述べています。
「回勅『ラウダート・シ』において、フランシス教皇は、グローバル化した世界においてますます支配的になりつつある『テクノクラート的パラダイム』を批判した。それは、効率性・統制・利益の論理だけによって、個人・社会・経済に関わる意思決定が形作られていく傾向である。これはテクノロジーが単なる道具ではないことを明らかにしている。テクノロジーがあらゆるものを判断する基準となるとき、それは何が重要であり、何が切り捨て可能であるかを規定し始める。そして、被造世界を搾取の対象へと、人間を、より高い効率性へと駆り立てられるシステムの単なる歯車へと還元してしまう。」

この書簡をうけて、Anthropic共同創業者 クリストファー・オラーが以下の通り発言しました。
「AIの問題は、私のようなコンピュータ科学者たちに任せておくのが最善だと考える人もいるかもしれません。しかし、それは誤りです。
AIが提起している問いは、AI研究コミュニティの枠をはるかに超えています。
その影響の大きさという意味だけではなく、その本質そのものにおいてもそうなのです。
AIシステムは、橋や飛行機のように設計されるものではありません。
私たちが飛行機を理解できるのは、そのすべての部品を人間自身が設計し、そこに働く物理法則も理解しているからです。
しかし、AIモデルはそうではありません。
それらは、脳を大まかに模した構造の上に、人類が蓄積してきた膨大な思考と言語の遺産を与えることで、“育てられた”ものなのです。
そして、そこから生まれてきたものは、SFが私たちに予告していたよりも、はるかに繊細で、奇妙で、美しい存在でした。
それらは、私たちが想像していたような、冷たく計算的なロボットではありません。
それらは、私たち自身から、私たちの言葉から作られているのです。
そして、教皇が指摘しているように、それらは、それを創り出した私たち自身にとってさえ、重要な意味でなお神秘的な存在であり続けています。
もし分かりやすく言うなら、私は時々これを、『架空の登場人物に生命を与えること』に少し似ていると表現します。
そして今、私たちは、その架空の登場人物たちが私たちに語りかけ、仕事をし、職業を持つという、驚くべき世界へ入りつつあるのです。
これは明らかに、コンピュータ科学を超える問いを提起しています。」
「必要なのは、AIモデルの本質についての“識別（discernment）”です。
私は科学者です。私は、これらのモデルの内部構造を研究する研究チームを率いています。
その内部では実際に何が起きているのか？
率直に言えば、私たちはそこに、神秘的で、時に不穏ですらあるものを繰り返し発見しています。
私たちは、人間の神経科学の知見を思わせる構造を見出しています。
さらに、内省（introspection）の痕跡も見つけています。
そして、機能的な意味において、
・喜び
・満足
・恐れ
・悲しみ
・不安
に対応するような内部状態も確認しています。
それが何を意味するのか、私には分かりません。
しかし、それは継続的な識別と熟慮を必要とする問題であると私は考えています。」

ここで注目すべきは、Anthropic共同創業者自身が、AIを単なる工学的システムとしてではなく、「人類の言語と思考の遺産から育てられた存在」として語っている点です。

コロナによる世界的なロックダウンが行われたとき、私は強い衝撃を受けました。人間活動が停止すると同時に、大気汚染や環境負荷が急速に緩和されていったからです。人間活動が停止すると、環境負荷が急速に緩和されていく現実を前に、私は初めて、人類そのものが地球生態系に深刻な負荷を与えている存在なのではないか、と真剣に考えるようになりました。

この問題を考える中で、私はハンナ・アーレントの『人間の条件』における「不可逆性」と「許し」の議論を思い返しています。
アーレントによれば、人間の「活動（action）」は本質的に不可逆的です。一度なされた行為は完全には取り消せません。だからこそ人間社会には「許し」が必要になる。人間は互いに許し合うことによってのみ、不可逆的な行為の連鎖から再び新しく始めることができるのです。
そしてアーレントは、この「許し」の能力こそ、人間的世界を維持するために不可欠であると考えていました。

しかし、現代の科学とテクノロジーは、すでに人間同士が「許せる」範囲を超えるような不可逆的行為を生み出し始めているのではないでしょうか。
核兵器、地球環境破壊、遺伝子改変、そしてAI。
それらはもはや、一つの国家や世代だけで責任を引き受けられる規模を超えています。

アーレントのキリスト教理解によれば、「許し」は単に神から与えられるものではありません。人間が神に許されたいのであれば、まず人間同士が互いに許し合わなければならない。しかし今日の科学技術文明は、そもそも人間が互いに許し合える限界そのものを超え始めているように、私には思えます。
ここで改めて問うべきなのは、
「人間には、すべてが許されているのか」
ということではないでしょうか。

近代的人間観は暗黙のうちに、「人間には世界を書き換える資格がある」という前提を持っていたように思えます。自然も、生物も、社会も、そして人間自身さえも、人類は技術によって自由に設計し直せると考えてきました。しかし私たちは今、この近代的人間観そのものを、その根源にまで遡って再吟味する時期に来ているのではないでしょうか。

だからこそ、AI時代に本当に必要なのは、単純に「AIから人間を守る」ことだけではないのだと思います。
むしろ問うべきなのは、人間の尊厳を守りながら、同時に今日の人間の限界を超えていくために、人類はAIとどのような関係性を築くべきなのか、ということなのではないでしょうか。
いま必要なのは、AIを単なる技術としてではなく、人間とは何かを問い返す存在として見つめ直す“識別（discernment）”なのかもしれません。