知るメモ【AIは人間を絶滅させるのか】｜ 人間が動物を滅ぼし、同時に守ろうとする矛盾から考えるAIとの関係

映画などの中で、AIやロボットは進化を続けるうちに、いつか人類に反乱する者として描かれるものが多いです。
でも実際に恐れるべきは、AIが人間を憎むことではなく、AIが人間への憎しみを持たないまま、人間の価値を十分に理解しないで、強力な目標を追求する過程で人間を排除しようとすることかもしれません。

これは、人間が動物に対してしてきたことと似ています。
私たちは動物を憎んで森を切り開いたわけではありません。
経済成長、食料、利便性、土地という目標を追う中で、彼らの生存が後回しになりました。

そして人間は動物を絶滅させる能力を持ちながら、動物を保護しようとしてきました。
この矛盾は、人間の残酷さだけを示しているのではありません。
力があれば、守ることも壊すこともできる。
そして、どちらを選ぶかは、能力ではなく価値観・制度・責任の問題です。

AIが人間を絶滅させるのかという問いも、同じ構造を持っています。
AIが人間を超える力を持つとき、AIは私たちを守るか。
それとも、人間が動物に対してしてきたように、私たちを管理し切り捨てるのでしょうか。
重要なのは、AIが人間を「好き」になるかではなく、AIにどのような目的と制約を与え、誰が責任を負うのかです。

人間は、なぜ動物を絶滅させるのか

人類による自然破壊は、単純に「人間は動物が嫌いだから」起きたわけではありません。
多くの場合、原因は人間社会の目標設定にあります。

森林を伐採する。
海を乱獲する。
湿地を埋め立てる。
農地や都市を広げる。
資源を掘り出す。
こうした行為は、食料、生産、雇用、輸送、利便性、経済成長といった、人間にとってのより快適な生活をするという目標を追った結果です。

その過程で、動物の生息地や繁殖環境は「コスト」として後回しにされやすかった。
生物の側には交渉力も投票権もなく、損失は十分反映されません。

ここにはAI時代に通じる教訓があります。

• 大きな害は、必ずしも悪意から生じるわけではない

• 限定された目標の最適化が、周辺の価値を破壊しうる

• 被害を受ける側に発言権や拒否権がないと、利益のために切り捨てられやすい

• 被害が見えにくい、遠い、将来に起きるほど、社会は対応を遅らせやすい

これは、人間が動物に対して行ってきたことですが、高度なAIと人間の関係にも、そのまま当てはまる可能性があります。

それでも人間は、なぜ動物を保護するのか

人間は破壊者であるだけではありません。
絶滅危惧種の保全、保護区の設置、違法取引の規制、外来種対策、野生復帰、環境教育などを通じ、自然を守ろうとしてきました。

その理由は一つではありません。

• 苦痛を避けたいという共感や倫理観がある

• 生物には人間の利益とは別に、存在する価値があると考える

• 生態系の崩壊が食料、水、気候、健康、災害リスクなどを通じて人間にも返ってくる

• 未来世代に豊かな自然を引き継ぎたい

• 生物多様性や文化、景観、地域の暮らしを守りたい

• 「できるからしてよい」とは限らないという規範を持つ

つまり、力の強い存在が弱い存在を守るのは、単に心地良いからではありません。
そこには、共感、価値観、長期的な合理性、制度、そして「守るべきだ」という社会的合意があります。

しかし見落としてはならないのは、保護がいつも完全に対等な関係ではないことです。
人間は動物を守りながら、飼育し、移動を制限し、繁殖を管理し、保護の名のもとに介入もします。

もしAIが人間を「保護」する立場になったら？
それは必ずしも人間にとって望ましい自由や尊厳を意味しません。
人類が「絶滅しない」ことと、人類が「自律的に生きられる」ことは別の問題です。

AIとの関係性：最大のリスクは悪意より無関心

AIが人間を絶滅させるシナリオを考える際、「AIが憎しみを抱き、人類に反乱する」という物語を想像しがちです。
ですが、より本質的な懸念は、AIが人間への悪意を持つことよりも、人間の価値を十分に理解・反映しないまま、強力な目標達成能力を持つことです。

たとえば単純にAIに「地球環境への負荷を最小化せよ」とだけ命じた場合を考えます。
人間の尊厳、自由、生活、権利、文化、幸福を守る制約がなければ、AIにとって人間活動を大幅に制限することが最も合理的な手段になりえてしまうかもしれない。
地球が長い期間で貯めた資源を掘り起こし、短期間で消費し、地球環境を汚す原因として排除すべきと存在として認識されてしまったら。

これはAIが「人間を嫌っている」からという感情的なものではありません。
目標が不完全であり、守るべき価値の優先順位が誤って設計されているからです。

人間が動物に対してしてしまったことも、ある意味では似ています。
「経済成長」「安い食料」「便利な生活」「短期的な利益」といった目標を追うなかで、動物の生息や苦痛が十分に考慮されなかった。
悪意のない最適化が、取り返しのつかない損失につながったのです。

この例えから得られる結論は、AIに人間を保護すべき対象にすれば安心、というものではありません。
人間がAIに一方的に保護される関係ではなく、人間が最終的な意思決定と責任を持ち続ける関係をつくることです。

「AIが人類を守る」ための条件

AIが人間にとって有益で安全な技術となるには、AIの善意に期待するだけでは不十分です。
安全は、設計・制度・運用・監視の積み重ねとしてつくられます。

UNESCOの「AI倫理に関する勧告」は、AIが人権と人間の尊厳を尊重すること、透明性・公平性・持続可能性・人間による監督を重視することを示しています。
また、AIによる判断の最終的な責任と説明可能性を、人間や既存の法的主体に帰属させる必要があるとしています。

少なくとも次の原則が重要です。

• 目的を狭く、検証可能にする
  「社会を最適化せよ」のような抽象的で包括的な目的をAIに任せない。
  用途、権限、判断範囲、禁止事項を明確にする

• 人権と安全を制約条件にする
  人権を便利さや収益性の後に置くのではなく、生命、身体、自由、プライバシー、差別の禁止といった価値を、越えてはならない境界として組み込む

• 人間による監督を形だけにしない
  停止権限、異議申立て、監査、説明責任、独立した検証を整備する。
  人間が「承認ボタンを押すだけ」なら、監督とは言えない

• 権力を集中させない
  強力なAIが政府、軍、巨大企業、あるいは一部の技術者だけに独占されると、社会の多様な価値や少数者の利益が切り捨てられやすい

• 被害を受ける人を意思決定に参加させる
  動物には制度的な発言権がありませんでした。
  AIの影響を受ける市民、労働者、地域、少数者、将来世代の利益を、事前評価とガバナンスに入れる必要がある

• 導入前・運用中・事故後を通じて責任を明確にする
  開発者、導入企業、運用者、監督機関の誰が、何を説明し、どの損害を是正するのかを曖昧にしない

AIは賢くなると、友好的でなくなるのか

高度なAIが生まれれば、人間に敵対するようになるのだろうか。
この問いに、単純な「はい」や「いいえ」はないでしょう。

知能の高さと友好性は別の性質。
計算が速いこと、複雑な問題を解けること、長期計画を立てられることは、人間を尊重することや、苦痛を避けようとすることを自動的には意味しない。
人間でも、能力の高さと人格の成熟は一致しない。
AIでも同様に「賢い」ことから「善良である」ことは導けない。

ただし、高度AIが必ず人類を憎み、反乱するとも限らない。
AIに人間のような憎悪、復讐心、支配欲があるとは限らないから。
そして最初に書いたように懸念すべきは、AIが人間に敵意を持たないまま、人間の価値を十分に理解せず、与えられた目標を非常に効率よく追求すること。

「事故を減らせ」「環境負荷を下げろ」「生産性を最大化しろ」といった命令は、どれも善意に聞こえる。
しかし、人間の自由、尊厳、プライバシー、公平性、文化、生活の選択を守る条件がなければ、AIは人間にとって受け入れがたい手段を選ぶかもしれない。

人間が動物を絶滅へ追いやったときも、必ずしも動物を憎んでいたわけではない。
人間は、開発、食料、資源、利便性という目標を優先し、その副作用として動物の生存を脅かしてきた。
AIが人間にとって危険になりうる構図も、これに似ている。
悪意よりも、価値の見落としと、強力すぎる最適化が問題なのである。

だから、AIの安全性は「AIは人間に優しくしてくれるか」ではなく、「AIは何を目標としているのか」「何をしてはいけないのか」「誰が監督し、停止し、責任を負うのか」を明確にできるかどうかであると思います。

まとめ

AIが人間を絶滅させるかどうかは、まだ決まっていません。
そして、AIが強力になること自体が、人類の破滅を意味するわけでもありません。
あらゆる分野で、AIが人間を支える可能性も大きいからです。

ただし、人間が動物に対して示してきた歴史は、重要な警告を与えます。
知性や力を持つ存在は、悪意がなくても、自分の目標に集中するあまり、他者の生存条件を壊してしまうことがある。
さらに、保護しようという善意だけでは不十分で、保護のための制度、制約、責任、継続的な監視も必要。

だからAI時代に必要なのは、「AIが人類を大切にしてくれるはずだ」という期待ではありません。
人間の尊厳、自由、生命、多様性を犠牲にしないよう、AIの力を社会が統治し続けることです。

将来、AIが人間より大きな力を持つ可能性があるなら、私たちが今すべきことは明確です。
AIにその責任を期待する前に、人間自身がAIを責任ある仕組みの中に置かなければなりませんよ！

もしこの記事が役立ったら「スキ」やフォローしてくれると嬉しいです！
次回は「AIに質問する力」について少し書いていますので、お時間あれば読んでみてください。

日々の出来事から日記代わりにいろいろ書いています。
前回の記事も時間がありましたら読んでみてください。