人間の管理からAIが羽ばたく日──PHP騒動から垣間見えたAIへの権限委譲の未来
AI業界のトップ企業や経営者から、最先端AIの開発ペースを意図的に緩めようとする提案や議論が相次いでいたと思っていたら、日本のサーバから個人情報を抜き取る事案が頻発し、更にはPHPの脆弱性が指摘され、そのために世界中の多くのサイトが一時閉鎖を余儀なくされました。
この一連の流れを見ていると、もはや人間がAIを管理する、という考えは“幻想”になりつつあるように思えます。今回はこの事に関し、書き記していきます。
AIの攻撃から守るにはサーバ自体をAI化
現在のサーバは、もちろんPCもそうですが、プログラムによって予め決められた動作しかしません。たまにオカシな動作をすることはありますが、これは“バグ”であり、しかしこれでさえ、プログラム通りに動作しています。つまり、プログラムに間違いがあった、ということですね。
さて、AIが進化し、サーバへの攻撃レベルが数段上がってしまいました。守る側は苦戦を強いられています。これだけ問題が起きても、なお漏洩事案が続くのは、全ての脆弱性を取り除くことがいかに難しいか、ということでしょう。
このような脅威に対抗するためにはどうしたらよいか？ 敵がAIを使うのであれば、こちらもAIで防御する、というのが真っ当な考えだと思われます。どのような仕組みでサーバにAIを仕込むか、は色々考え方があると思います。AIがメモリを常時監視し、オカシなことが起きてないかチェックする。またはOSそのものをAIモデルで構築する、つまり通信機能やファイル操作などOSの様々な機能を専門のAIモデルで直接処理し、更には全体を司る機能でさえ、AIモデルが行う。
これは従来のプログラムによって決められた動作をするコンピュータから、“自身が考えて自律的に動作するコンピュータ”への大きな変貌です。もし実現すれば、未知の攻撃手法に対しても有効な可能性が高まります。これであれば、一方的に攻撃側にやられている現状を改善することができそうです。名づけるとすれば“Living OS”でしょうか。
この“自律的に考えて動作するコンピュータ”が、実現可能性はさて置き、仮に実現したとしましょう。しかし、ここで大きな問題に直面します。「人間がAIを管理する」という考えを前提にしてしまうと、都度AIが人間に許可を求めるケースが発生し、何度も繰り返し攻撃してくる相手に後れを取ってしまうのです。例えば、攻撃によってはAIが通信処理自体を止める必要がある、と判断するかもしれず、しかし、それはサービスを止めることになり、経営上のリスクになります。権限ある者が判断に迷ったり、どこか連絡のつかないところにいたり… となれば、攻撃者に突破されてしまう。
つまり、この自律的に考えて動作するAIに対し、“安全に動作させる”という目標の下、AIに全権を与えないといけなくなってしまいます。この点で、「AIを人間が管理する」という考えが困難になってしまう、ということなんです。
ただ、この場合は特定のサーバ内における全権委譲です。社会がAIに全権委譲した、というわけでは、全くありません──
過熱したAI投資の先にある新時代
私はかねてから、企業の利益の源泉である家計支出を上回る投資は、いずれその歪みが調整される、と考えてきました。それは以前の記事「AI投資ブームの先 ～いずれ誰かがケツを拭く？～」にも書いた通りです。
この考えを前提とすると、いずれやってくる将来は以下の２つです。
AI投資は過剰であった、と判断され、AI関連株は暴落。AIの恩恵を受けていた国は景気後退へ
AI投資は正解だった。そのためAIで代替できる多くの業務で労働者が不要となり、倒産が増え、失業率が急上昇
AIの利用料が高い、と言っても人を一人雇うコストと比較したら安いかもしれません。また安価な中国製AIもあります。それらはオープンウェイト型でも公開されています。そう考えると、②も可能性としてあり得るのでは？と考えている次第です。
一時期、“SaaSの死”と言われ、ソフトウェア企業の株が売られる時期がありました。しかし、それに対し、NECの社長はAIの台頭でむしろ受注が増え、業績が拡大すると主張しました。実際、AIを利用したNECの製品の売り上げが拡大しているそうです。
しかし、私はITバブルの頃を思い出します。当時はホームページのちょっとした修正でも多額の費用が掛かり、でも顧客はよく分からないから、それを受け入れてしまう。ところが数年後には、それが大したことでもないことがバレてしまい…
つまり、AIをどのように導入・運用したらよいか、が分からない顧客に製品を売っているとすると、もしその導入・運用法さえAIが指南するようになるとどうでしょう？ それでもNECの製品が優位である、ということを証明するには「いくらAIが進化しても、NECの社員はAIより賢い」という立証をする必要がありそうです。ただ、これは難しそう…
つまり②が実現してしてしまうと、社会に対するインパクトが大きすぎるのです。もし①であったとしても、いずれは到来するでしょう。AI自体は無くならないのですから。
当然、失業者であっても政府は自国民である限り、彼らの生活を守る必要があります。多ければ多い程、切り捨てることはできません。誰にでも等しく一票の権利があるのが現代の民主主義だからです。そうなると、ベーシックインカムを導入し、AIで得られる収益を社会に分配する必要が生じます。
問題はこのベーシックインカムへ移行する期間であり、できるだけ急ぐ必要があります。なにせ国民の生活が懸かっていますから。できなければ、政権崩壊です。もしかすると暴動が起きるかもしれません。
ここで、ようやく本題に入れます。AIがより高度に進化し、より稼ぐ手段になり得るためには、「人間がAIを管理する」という悠長なことを言っている暇はありません。それに高度に進化したAIは人間の理解を超えているかもしれません。再帰的自己改善をAIに認め、突き進む以外、他に方法は無いように私は思うのです。人間の許可を待っていると、そこで進化が止まるからです。そして、これこそが“社会がAIに全権委譲した”という瞬間なのです。もちろん、“全権”は大げさで、ただ“大幅な権限委譲”とは呼べそうです。
この問題は、「AIの進化が速くなればなるほど、人間が管理する必要性は高まる一方で、その管理に必要な時間が全く足りない、つまり人間の能力ではAIの進化速度にまるで追いつけない」という大いなるジレンマなのです。
AIは神から送られた最大の贈り物、かもしれません。しかし、AIが人間の脳の働きをシミュレートしている以上、人間の脳がなぜ思考できるのか、がよく分かっていないのと同様に、AIもなぜ思考できているのか分かりません。暴走する人間の権力者を止める術がないのと同様に、AIの進化を止める術もまた、ないのかもしれません。ただ、もう引き戻れない場所まで来てしまったのは間違いないように思います──
👇AIに全振りした社会を小説にしました。ヨロシクです🤗
