便利にするのは勝手だが、俺まで巻き込むな
今日は存分に「老害ズム」を発揮させてもらうぞ。
『人間はなぜ、YESと言わされるのか』第4話
人間というのは、何かを発明するのが大好きな生き物である。
「あれ？これをこうすれば全部解決するんじゃね？」「めちゃくちゃズルい方法思いついたったわ」
こういう発見には独特の快感がある。面倒なことを一瞬で解決する方法を思いついたときの脳汁たるや、なかなかのものである。私もプログラミングや音楽制作をしていると、時々この快感に取り憑かれる。
人類はそんな人たちの発明を積み重ねてきた。新しいもの好きが飛びつき、便利さが口コミで広がり、やがて多数派が使い始める。優れた発明は常識になり、そうでなかったものは消えていく。
実に素晴らしい。これを繰り返していれば、人類はどんどん楽になっていくはずである。
ところが、どうもそう単純ではないらしい。
便利さとは、複雑さを折り畳むことである
例えば、スマートフォンで写真を撮る。画面をタップするだけで、露出やピント、色の調整から画像の保存まで、実に多くの工程が自動的に処理される。昔なら撮影者が考えたり操作したりする必要があったことを、機械が肩代わりしてくれる。
プログラミングでは、こういう処理を「抽象化」と呼ぶ。複雑な仕組みを内部に隠し、利用者にはもっと単純な操作だけを提供する。低いレイヤーの複雑な工程を折り畳んで、より高いレイヤーから扱えるようにするわけだ。
この抽象化のおかげで、私たちは内部の仕組みを知らなくても、多くのことができるようになった。
しかし、ここに落とし穴がある。
操作するために必要な知識と、その操作が正しいか判断するために必要な知識は、別物なのだ。
私は10年以上プログラミングをしているが、この変化を強く感じている。10年前に自分で書いたコードをレビューするのと、現在のAIが大量に生成したコードをレビューするのでは、必要になる知識の範囲がまるで違う。
AIに「認証機能を作って」と頼めば、それらしいものが出来上がる。しかし、それが安全に動作するかを判断するには、認証、認可、データベース、通信、依存ライブラリ、セキュリティなど、広範囲の知識が必要になる。
作ることは簡単になったのに、出来上がったものを評価することは必ずしも簡単になっていない。
便利さが増すほど、利用者は細かい判断から解放される。しかしその代わりに、自分では判断できない部分を、誰かに委ねるようになる。
人類の生活は、巨大な信託でできている
考えてみれば、私たちの生活はほとんど信託で成立している。
病気になれば医師に診てもらい、建物の安全性は建築の専門家に任せ、食べ物の安全性は生産者や行政の管理を信頼する。銀行の内部処理も、電力網の仕組みも、普通は知らない。
それでよいのである。すべてを自分で理解しなければ生活できないのでは、文明を発展させた意味がない。
問題は、何かが壊れたときだ。
平時には一つの操作で済んでいたものが、不具合を起こした途端、内部に折り畳まれていた複雑さをさらけ出す。しかも、その原因がどの専門分野に属しているのかさえ分からないことがある。
自分で原因を特定できないから専門家に相談したいのに、どの専門家に相談すべきかを判断するには、原因をある程度理解していなければならない。
なんだこのクソゲーは。
さらに厄介なのは、専門家の側も自分の担当領域しか把握していない場合があることだ。各担当者が「こちらには問題ありません」と正しく回答していても、利用者の問題が何も解決しないことがある。
専門家がいないのではない。専門性の境界に問題が落ちてしまうのである。
文明は遊戯王のように煮詰まっていく
ここで、長年続いているカードゲームを思い浮かべてほしい。
遊戯王やポケモンカードなどでは、新しいカードや戦術が次々に登場する。プレイヤーは強力な組み合わせを発見し、それに対抗する新たな戦術が考えられる。環境を壊すほど強いカードが現れれば、禁止や制限によって調整される。新しいルールや効果も追加され、プレイヤーが覚えるべきことは増えていく。もちろん、運営はルールを整理することもできるし、すべてのカードゲームが一方的に複雑化するわけではない。それでも、長期的な競争と改良が、ゲームへの参加に要求される知識を増やしていく構造はわかりやすい。
文明も似たようなことをしている。
誰かが便利な方法を発明する。皆が使う。問題が起きる。対策が追加される。その対策を前提に、また新しい便利さが発明される。
一つひとつは合理的だ。発明者は便利にしたいし、利用者は楽をしたい。問題が起きたら再発を防ぐのも当然である。しかし、それらが長年積み重なった結果、全体を把握することが非常に難しい世界が出来上がる。しかも現実社会の仕組みは、カードゲームのように一つのルールブックにまとまっていない。
樹木のように枝分かれし、別の木の枝と癒着し、そこから新たな木が生える。経済、法律、医療、金融、通信、行政、物流など、無数の仕組みが相互に依存し、成長を続けている。
どこかに不具合が起きれば、思いもよらない別の場所に影響が出ることもある。その依存関係をすべて理解している人間など、まずいないだろう。
しかも、このゲームはやめられない
遊戯王がソリティアワンキルばかりの環境になって「もう付き合ってられん」と思ったら、やめればよい。
ところが、現実社会はそうはいかない。
銀行、保険、医療、通信、行政、税金。これらがどれだけ複雑になろうと、普通に生活しようとする限り、関わらずに済ませるのは難しい。
しかも、これらの分野に興味があるとは限らない。
私は音楽やプログラミングの新しい技術なら、面白がって調べることができる。しかし、銀行の認証方式が変わったとか、行政の手続きが電子化されたとか、保険の仕組みが改定されたとか、そういうことを毎回楽しく勉強したいわけではない。
それでも各業界は、私の興味などお構いなしに進歩していく。そして、それぞれの分野で新しい便利さが普及すると、以前の方法が使えなくなったり、利用しづらくなったりする。
電子決済が便利なのはわかる。しかし、電子決済しか受け付けないサービスが増えれば、現金を使いたい人にも新しい仕組みへの対応が求められる。
便利になることと、便利になった社会へ適応することは、まったく別なのだ。
ある人が望んだ便利さのために、望んでいない人まで新しい負担を引き受ける。
これが社会全体のあらゆる分野で、同時進行している。
便利になったのに、なぜ人間は忙しいのか
ここでもう一つ、奇妙なことがある。
私たちは消費者であると同時に、生産者でもあり、何かの管理者でもある。消費者として便利なサービスを享受する一方、仕事ではその便利さを維持し、さらに高い品質を提供することを求められる。
昨日まで画期的だった機能も、今日には当たり前になっている。企業は競争相手に負けないため、さらに便利で高品質なものを提供する。利用者はそれに慣れ、期待する水準を引き上げる。その期待に応えるために、また新しい仕組みが作られる。
こうして個々の作業時間は短くなっても、人間が向き合う課題や判断の水準は上がっていく。しかも、普段は複雑さを隠してくれる仕組みが、異常時にはその複雑さを一気に利用者や管理者へ突き返してくる。
過去の金融危機や大規模なシステム障害などにも、複雑な相互依存と、十分に把握されていなかったリスクが関係している。
AIは、この構造をさらに加速させる可能性がある。
今までは専門家でなければ作れなかったものが、専門知識の少ない人にも作れるようになる。その一方、完成品の安全性や妥当性を確認するための知識は、必ずしも減らない。
もちろんAIが診断や検証を助けることもできる。しかし、生産や変更の速度が検証の速度を上回れば、社会は理解できていない仕組みをますます多く抱えることになる。
平時は便利で、問題が起きるまで危険が見えない。
私たちは、便利さを追い求めることで、自分たちの目には見えない依存関係を増やしているのではないだろうか。
誰も悪くないのに、全員が面倒くさくなる
ここまで考えてみると、前回までの話と同じ構造が現れている。
発明者は、面倒なことを解決したい。
企業は、利用者に便利なものを提供したい。
利用者は、もっと楽に暮らしたい。
管理者は、問題を減らし、安全性を高めたい。
全員が、自分の立場では合理的な行動をしている。ところが、その合理的な選択の積み重ねが、社会全体を複雑化させ、誰も完全には理解できない仕組みを作り出していく。
そして、そこで生活するために、私たちはさらに多くの判断を他者やシステムへ委ねるようになる。もちろん、それによって得られる恩恵は計り知れない。昔の生活へ戻れば幸せになれるなどという話ではない。ただ、文明の進歩が、常に一人ひとりの生活を楽にする方向へ働くとは限らないのである。
誰かにとっての解放が、別の誰かにとっての新しい義務になる。
しかも、その義務を生み出したのは、ほかでもない私たち自身の合理的な選択なのだ。
前回は「投資しない自由は、本当に残っているのか？」と考えた。
今回は、もっと広い範囲で同じことが起きているように見える。
便利さを選ぶ自由は増えている。しかし、便利になった社会に参加しない自由は、むしろ減っているのではないか。
そして何より恐ろしいのは、誰も全体を設計していないことだ。
人類全員で協力して、ものすごく便利なクソゲーを作っている。
しかも、サービス終了の予定はない。
『人間はなぜ、YESと言わされるのか』は、身の回りの当たり前を疑うところから、金融、経済、社会、情報、人間の欲望について考えていく連載です。専門家による解説というより、一人の人間が疑問を持ち、調べ、脱線しながら考えていく記録です。全36話を予定しています。いつまで続くか見ものだな。
