フランス騒乱、サイバーテロ、政治の分断。AIが正しく普及すれば越えられる
「何でもAIのせいにするな。」
私はこの思いから、小説『フランケンシュタインとAI ― 闇のむこう ―』を書きました。書き終えてから、同じ問いをもう一度、社会の側から考え直したのがこの文章です。
政治の分極化、経済的な行き詰まりによる暴動、高度化するサイバー攻撃。いまの暗いニュースの多くは、「既存の社会システムが、複雑化・高速化する世界に対処しきれなくなっている」ことによるシステム疲労が根本にあります。もう少し言えば、前提が変わっても判断を変えられず、そのつけを誰かに押し付け合う状態です。
私は、この摩擦を当事者どうしのすれ違いの結果だと見ています。AIを使いこなし、攻撃を速く安く作り出すハッカー。仕事や判断が自分の手を離れていくと感じ、AI企業に絶望する市民。何を決めればよいのか分からず、傍観する政治。そこにAIを作る企業自身を加えた四者が、互いを見ていません。AIは問題の根ではなくても、このすれ違いを一気に広げます。そして市民が本当に絶望しているのは、技術そのものよりも、決める場に自分がいないことではないでしょうか。
人間とAIの共存シナリオは、この限界を突破する力を持ち得ます。ただしそれは、AIが答えを出してくれるからではありません。人とAIが互いに見ながら、判断を更新し続けられるようになるからです。
以下の三つは、絶望する市民、AIを扱うハッカー、傍観する政治のそれぞれに向けた処方です。
経済的ゼロサムゲームからの脱却（フランス騒乱・国債低迷への対抗）
暴動や社会不安の根底には、経済成長の停滞や「限られたパイの奪い合い」への不満があります。AIの社会実装は、産業の生産性を高め、エネルギー・素材・医療などのイノベーションを加速させます。AIが人間の知的労働を拡張し、経済のパイそのものを広げることができれば、将来への不安から生じる過激なデモや市場の悲観論を和らげる力になります。
ただし、パイが広がるだけでは余裕は生まれません。生産性の果実は、分け方を誤れば格差を広げ、かえって不満を強めます。AIは「こう分ければ、誰にどう届くか」を示すことはできても、どう分けるかを決めるのは人間です。そして、その分け方も一度決めて終わりではなく、結果を見て直していく必要があります。社会インフラの「免疫系」の構築（世界的サイバーテロへの対抗）
いま、サイバーテロは攻撃側が圧倒的に有利な非対称の戦いになっています。しかし、これを防ぐ最大の盾もまたAIです。人間とAIが共存する社会では、AIがネットワーク上のわずかな異常を24時間体制で検知・遮断し、人間がその背後にある戦略的意図を分析して対策を立てる「強靱な免疫系」ができます。ここでも大切なのは、何を見て遮断し、なぜ判断を変えたのかを残すことです。その記録があるから、人間は次の攻撃に備え、AIもまた学び直せます。テクノロジーの脅威は、テクノロジーと人間の協働によってのみ中和できます。感情的対立から「判断を更新できる合意」へ（政治的分極化への対抗）
分極化は、移民、税制、環境問題のような複雑な課題を、「右か左か」という二元論や感情論で処理しようとするところから生まれます。そして一度そう決めると、現実が変わっても立場を変えられなくなります。
AIは、「どの政策をとれば、どの層にどういう影響が出そうか」を、選択肢ごとに示すことができます。大事なのは、その見通しがどれくらい確かで、何を前提にしているのかも一緒に示すことです。「最適解」を一つ出させるのではありません。前例のない変化の前では、精度の高い予測ほど判断を固めてしまう危うさがあるからです。
人間が目指す価値を決め、選び、その理由を残す。現実が変われば、AIと一緒に前提を見直す。そうした仕組みがあれば、立場を変えることが「負け」ではなく「更新」になり、イデオロギーの衝突を冷静に調停できる可能性が高まります。
過渡期の摩擦を乗り越えるための「共存」
もちろん、AIは強力な道具であるがゆえに、使い方を誤れば分断を深め、攻撃の手段にもなる、両刃の剣です。いまの暗いニュースは、新しい技術と古いシステムがこすれ合う、過渡期の摩擦熱とも言えます。
この摩擦を乗り越える鍵は、AIに判断を任せきることでも、AIを遠ざけることでもありません。倫理と責任、つまり何を大切にし、誰がその結果を引き受けるのかは、人間の側に残す。そのうえで、AIが示した見通しと、人間が選んだ理由と、その後に起きた現実を突き合わせ、前提を直し続ける。共存とは、この往復を社会の中に組み込むことだと考えます。
実現に向けて：責任を引き受ける体制をつくる
摩擦の芯にあるのは、AIが社会の判断に入り込んでいるのに、その結果を引き受ける体制ができていないことです。
AIが出すのは、「七割の確率でこうなりそうだ」という確率の言葉です。一方、社会の決定は「融資するかしないか」「この政策をとるかどうか」という一つの結論であり、契約や法律として固まります。確率を一つの決定に変えるとき、誰かがその責任を引き受けなければなりません。いまは、その引き受け手がいません。
だから、四者は責任を押し付け合います。ハッカーは責任を負わないままAIを使う。事業者は「判断するのは使う人だ」と言う。政治は責任を負いたくなくて傍観する。そして市民は、誰も責任を取らないことに絶望します。確率を断定のように扱うか、「当てにならない」と捨てるか。その両極端も、引き受け手のいないところから生まれます。
事業者が引き受けるべき責任は、判断の設計だけではありません。AIの成長には膨大な電力が要り、その電源の裏には自然の破壊がついて回ります。電源への投資は一社や一国では賄いきれず、資本市場を通じて世界全体に負担させられています。その一方で、リターンはAI事業者に集まる。負担は世界全体で、果実は一部で。この構図が、資本市場のバブルを生み、回りまわって市民の絶望や社会の摩擦になっています。自国の財政を自国で賄えない国の国債が売られるのと、根は似ています。AI事業者は、この構図に気づいていないわけではありません。気づいたうえで、その責任を引き受けずにいる。そこに、いまの摩擦の深い原因があると私は考えます。
確率を決定に変え、責任を引き受ける型は、すでにある分野もあります。降水確率を聞いて、傘を持つかどうかは自分が決める。与信のスコアは確率で、融資の可否は人が決め、稟議に理由を残す。検査は確率で、治療方針は医師と患者が決める。AIにも、この型が要ります。AIは、確率とその前提を示す。
人が一つに決め、責任を引き受ける。
なぜそう決めたのかを残す。
前提が変わったら、決定を見直す。
ここでいう決定は、一度決めたら終わりではありません。いったん決めて、理由と一緒に置いておくものです。理由が残っていれば、外れたときに責め合うのではなく、前提を直すことができます。責任を引き受けることが、怖いものではなくなります。
AI事業者に求められるのは、この体制に乗れるAIを作ることです。一つの答えを自信満々に出すのではなく、選択肢と確かさと前提を見せる。判断の理由を残せるようにする。価値判断は人に返す。これは責任を逃れるための設計ではありません。人が責任を引き受けられるようにするための設計です。
そしてこれは、事業者にとっても損ではありません。責任を引き受ける体制に組み込めるAIだけが、融資や医療や行政のような、社会の重い決定に入っていけます。理由の記録は、外れたときに事業者自身を守る盾にもなります。使う側は「理由と確かさを見せないAIは採用しない」と求め、政治は傍観をやめてそれを最低限のルールにする。そうなったとき、この設計は一時の良心ではなく、事業者自身の設計思想になります。
AIだけが賢くなり、責任を引き受ける体制が追いついていない。それが、いまの摩擦の正体です。その体制をつくるのは、AIではなく人間の仕事です。
結論
システム疲労の正体は、前提が変わっても判断を変えられないことにありました。だとすれば、処方箋は「より正しい答え」ではなく、「判断を更新し続けられる仕組み」です。
この仕組みを持てるかどうかが、AIが本当に社会の役に立つシステムになれるかどうかを分けます。AIの確率論を、社会の決定論に変えられるかどうかの鍵も、ここにあります。だからこそ、AIを使う人々、当局、そしてAI事業者が、同じ方向を向いて協調していくことが必要です。誰か一人が責任を押し付けられたり、誰か一人が利益を独占したりするのではなく、それぞれが自分の持ち分の責任を引き受け、果実を分かち合う。そのとき初めて、確率は信頼できる決定に変わります。
上からの備えだけでは、現実の変化に追いつけません。下からの学びだけでは、社会全体の判断にはなりません。AIが選択肢と確かさを示し、人間が価値を決めて選び、その理由を残し、結果を見て直す。上からの備えと、下からの学びがこの循環でつながったとき、人とAIの共存は、疲労したシステムを作り直す力になると考えます。
山上 聰（やまがみ あきら） 外国為替ディーラーとして十年余りを過ごしたのち、経営コンサルタントとして金融機関・企業や公的機関への助言に携わる。著書数冊のほか、小説『フランケンシュタインとAI ― 闇のむこう ―』を出版準備中。いまは、何を決めたかだけでなく、なぜそう決めたかを残すAIの仕組みを作っている。
英語で書いた関連エッセイ「The Missing System of Record」をLinkedInで公開しています。 https://www.linkedin.com/in/akira-yamagami-50292611/
#AI #生成AI #責任 #システム疲労 #金融 #エッセイ
