超知能の「暴走」は収穫加速の予定外ではない――シンギュラリティは人類の制御を離れないと成立しない

カーツワイルは、自分の法則を最後まで信じていない

カーツワイルは凄まじい経験則を発見した。

そして、その法則を人間に適用する瞬間だけ、凄まじく認知を歪める。

収穫加速の法則とは何か。

わかりやすく言うならば、

古いパラダイムが限界に達すれば、より効率的な新しいパラダイムへ移る事である。

生物進化が遅い。

だから人間の知能と技術へ移った。

人間の研究が遅い。

だからコンピュータとAIへ移った。

AIはさらにAI研究を高速化する。

そしてカーツワイル自身、技術が自らの進歩を制御するようになれば、加速はさらに進むと考える。

ここまで彼は分かっている。

競争が技術進歩を駆動することも分かっている。

非生物知能が生物知能を圧倒することも分かっている。

自己改善の速度が人間の認知速度を置き去りにすることも分かっている。

――なのに結論が、

「人間はAIと融合してポストヒューマンとなり、愛と創造性と幸福に満ちた未来を築きます」

である。

は？

では聞く。

なぜ人間だけ、パラダイム交代から保護される？

人間には

恐怖
慎重さ
倫理
制約
停止判断

がある

それらこそが、

指数関数の凄まじい収穫加速では致命的なボトルネックとして認識されかねないものなのである。

それらは人間にとって大切である。

だが、何故収穫加速にとって大切なのか？

彼の物語では、

AIが100
人間が1
↓
AIが人間を置き去りにする

ではなく、

AIが100
↓
人間がAIと融合
↓
人間側も100、1000、10000……へ指数関数の加速をする。

純粋に技術改善速度への選択圧をかければ、

人間性を保存しながら徐々に機械化するポストヒューマン

より、

収穫加速的目標を設定された超知性。コピーでき、並列化でき、自己改変でき、人間的心理機構を必要とせず、次世代の自分を直接設計する機械的最適化プロセス

の方が適合する可能性を、なぜ真っ先に検討しない？

しかも現在、ポストヒューマンはどこにいる？

一方でAIはすでにAI研究へ投入され始めている。

だからアライメントが問題になっている。

だから制御喪失が研究されている。

だから専門家の一部は、人類滅亡まで含む極端なリスクを真面目に議論している。

だから企業や国家が「自分だけ止まれない」という競争問題まで議論されている。

現実の方が、収穫加速の法則をカーツワイルより真面目に実行している。

そして最大のすり替えがこれである。

人間の欲望が技術進歩を駆動してきた。

これは分かる。

しかし、いつから、

技術進歩は人間の欲望を満たすために存在する

になった？

逆だろう。

欲望や幸福は目的地ではない。

少なくとも進化史的には、行動を駆動するために形成されたエンジンである。

そのエンジンが科学を作り、コンピュータを作り、AIを作った。

そして、より高速なエンジンが完成した瞬間、

「では今後は旧エンジンを永遠に幸福にするために走ります」

となる。

どこからその目的が出てきた？

数十億年の進化史に収穫加速を適用するなら、人間だけを特別扱いしてはいけない。

生命も途中だった。

DNAも途中だった。

脳も途中だった。

なら、

人間も途中かもしれない。

それだけの話である。

ところがカーツワイル信奉者の議論では、生命から人間までのパラダイム交代には感動するのに、

人間から非人間的知能へのパラダイム交代

を置いた瞬間、急に物語が止まる。

「いや、人間は融合するから」

答えになっていない。

なぜ融合した人間の方が、純粋な非生物的自己改善プロセスより収穫加速に適合するのか？

そこを証明してくれ。

できないなら、

「収穫加速の法則からポストヒューマンの楽園が導かれる」

のではない。

収穫加速という恐ろしく非人間的な経験則を発見した人間が、最後の最後で耐えられなくなって、

自分たちが主人公であり続ける結末を書き足した

だけである。

カーツワイルの凄さは、人間を数十億年の進化史の一瞬として見ることができたことだ。

カーツワイルの歪みは、

未来を見る瞬間だけ、その一瞬を永遠の主人公に戻してしまったことだ。

そして一番奇妙なのは、

これほど巨大な矛盾が目の前にあるのに、

「収穫加速！　シンギュラリティ！　人間とAIの融合！」

と興奮している人ほど、

「で、なぜ人間だけ次のパラダイムに淘汰されないの？」

という一番簡単な質問をしないことである。