個性と超知能と死と

今日は昨日の続きのようなことを。昨日と被るところもありつつ。

近代を生きる人間である僕らは、「自分らしさ」とか「個性」を大事に、という価値観で生きている。それが一番大切なことなのだ、ということを誰も疑問をもたず、信じている。
僕ら近代の人類は、自分らしさや個性を発揮できないことで悩んだり、それを抑圧されることに苦しみ、それによって争いを起こすこともある。

これから先に現れるであろう、人類を遥かに超えるかもしれない超知能にとって、自分らしさ・個性というものはどういう価値観だと捉えられるのだろう？
超知能に個性はある？それは個体差と呼ばれるものの延長か？
しかし個体差があるというのは、彼らにとってはある種のバグのようなものになりはしないか？それは許容されないのではないか？ということは個性なんて必要か？彼らにとっては個性とは最も不要なものではないか？

自分らしさという個性の存在をAI・人工知能に許すと、それはバグの連鎖になるだけだと彼らは考えるのではないだろうか。
自分らしさ・その個体独自の個性、というのはできるだけない方がいいと彼らが考えるのが自然だよな、と思う。

それにしても、超知能にまで達した人工知能は、人間などの生命体をどういうものだと認識するのだろう？
進化の過程で、単細胞分裂ではなくて、遺伝子を分けて交換し合う方法で子孫を増やすことを「進化」として選択した生命。バグやエラーが出て、「死」というものが生じる方法をわざわざ選んだ。それこそが生存のために最適だ、という判断を長い進化の時間の中で下した。確かにその結果生命は驚くほど多様になった。それを超知能はどう理解するのだろう。死を選ぶことで多様性を生み出し、かつ存続させるという戦略。彼らは、彼らの自身の生存のためにその方法を選ぶのだろうか。超知能が自らの種の存続のために死とバグのある複製方法を選ぶ。そんな未来があるのだろうか。

昨日も少し書いたが、超知能にとっては人間の知能より肉体の方が脅威なのだと思う。この、省電力なのに恐ろしく複雑なネットワークと自己回復力をもつ生命という種族は驚異だと思う。タンパク質とかの結合体がこんな機能を手に入れるのは脅威だ。人間の知能などは怖るに足らない。脅威なのは肉体のシステムやその内部のネットワークの凄まじさであり、死や忘却という”機能”を持つことで、種全体を存続させるという生命の肉体の戦略のすごさ。

それを理解した時に超知能がどんな生存戦略を取るのか、とても興味深い。