AIは「本人がいなくても議論できる」ところまで来た――4人のAI経営者が示した“人格のデジタル化”の未来

もし、Sam Altman、Elon Musk、Dario Amodei、Mark Zuckerbergの4人を同じ部屋に集めて、

「AI競争の勝者は誰か」

「AIはどこまで公開すべきか」

「AGIは人類にとって危険なのか」

と議論させたら、どうなるでしょうか。

実際に本人たちを集めるのはほぼ不可能です。

ところが、AI愛好家のKun Chen氏は、それに近いことをAIで実現しました。

4人の公開発言、議会証言、インタビュー、ブログ、SNS投稿などを材料に、それぞれの考え方を再現するAIボットを作成し、同じチャットルームで議論させたのです。

その結果、4人のAIは激しく対立しながらも、最後には一定の共通認識にたどり着きました。

これは単なる面白実験ではありません。

今回の出来事が示しているのは、

AIが「知識」を再現する段階から、「人の判断傾向」を再現する段階へ進み始めた

ということです。

そして、その延長線上には「AI分身」「AI役員」「AI上司」、さらには本人が亡くなった後も動き続ける「デジタル人格」という未来があります。

最初は「自分のAI分身」だった

この実験の出発点は意外に実務的でした。

Kun Chen氏は、自分のAIエージェントが判断に迷うたびに、

「これはどうしますか？」

「どちらを選びますか？」

と自分に確認してくることに困っていました。

AIに仕事を任せたはずなのに、人間へのエスカレーションが多すぎて、結局自分の時間が奪われる。

そこで考えたのが、

「自分の判断基準そのものをAIに渡せないか」

という発想です。

Chen氏は、自身の考え方や判断パターンをAIに反映させることを「自分自身をdistillする」と表現しています。

そして実際に、自分の代わりに判断できるAIボットを作りました。

ここから発想が広がります。

「自分を再現できるなら、有名なAI経営者も再現できるのではないか？」

そこで作られたのが、

Sam Altman

Elon Musk

Dario Amodei

Mark Zuckerberg

の4人のAIボットです。

材料はすべて「公開情報」

今回重要なのは、秘密の個人データを使ったわけではないことです。

それぞれの人物について、

議会証言。

公開インタビュー。

ブログ。

過去の発言。

SNS投稿。

など、長年蓄積された公開情報を使っています。

ここにAI時代の非常に大きな変化があります。

現代の著名人は、インターネット上に膨大な「思考の痕跡」を残しています。

何に賛成するのか。

何に反対するのか。

どんな言葉を使うのか。

何を恐れているのか。

何を重要だと考えるのか。

どのような反論をするのか。

これらを大量にAIへ与えれば、

「その人物なら、こう答える可能性が高い」

というモデルを作れるようになります。

4人のAI経営者を同じ部屋に入れる

そして4つのAIボットを同じグループチャットに入れました。

最初のテーマは、

「AI競争では誰が勝つのか」

でした。

ここから4人の性格の違いを反映したような議論が始まります。

Altman型AIは、AIのコストが下がり、多くの人に知能へのアクセスが広がることを重視。

Musk型AIは、AI競争のインセンティブやOpenAIをめぐる過去の対立を持ち出す。

Amodei型AIは、高性能AIの安全性と制御可能性を重視。

Zuckerberg型AIは、AIの中央集権化を防ぐため、オープンモデルや広いアクセスを重視する。

もちろん、ここで発言しているのは本人たちではありません。

あくまで、

過去の発言からAIが生成した「この人物らしい回答」

です。

しかし、それでも興味深い。

なぜなら単に有名な発言を繰り返したのではなく、

異なる思想を持つAI同士が、その場で反論しながら議論している

からです。

最後には「共同声明」まで作った

さらに面白いのは、4人のAIが最終的にある程度の共通点を見つけたことです。

議論を重ねた結果、

一企業だけがAIを独占するべきではない。

一政府だけがAIを支配するべきでもない。

AIには現実的なリスクがある。

非常に危険な能力を無制限に公開すべきではない。

より強力なAIを公開する場合には、安全性を監視できる仕組みが必要。

といった方向で合意しました。

一方で、

「AIをどこまでオープンにするべきか」

については最後まで完全には一致しませんでした。

これも非常に興味深い点です。

AIは「議論を再現」するだけではなく、

複数の価値観をぶつけながら、妥協点を探す

ところまでできるようになっているのです。

ただし「本人をコピーした」わけではない

ここは非常に重要です。

今回、

「Sam Altmanをクローンした」

「Elon Muskをコピーした」

という表現が使われていますが、実際に人格そのものを複製したわけではありません。

人間の人格には、

経験。

記憶。

感情。

身体感覚。

人間関係。

その日の気分。

まだ言語化していない価値観。

など、公開発言だけでは捉えられない要素が大量にあります。

今回再現できているのは、

「公開情報から推定される発言傾向」

です。

それでも十分に重要です。

なぜなら仕事の多くは、人格全体ではなく、

判断パターン

だけを必要としている場合があるからです。

会社で考えると、かなり現実的になる

例えば、あるベテラン技術者がいるとします。

30年間同じ分野で仕事をしてきた。

トラブル対応の経験が豊富。

設計レビューも数千件経験している。

後輩から質問されると、

「その場合はここを見る」

「この条件なら危険」

「このケースなら例外を認める」

と判断する。

これはまさに、

暗黙知

です。

今までは、その人が退職するとかなりの部分が失われました。

しかしその人の、

レビューコメント。

メール。

設計判断。

会議記録。

ノウハウ資料。

過去の質疑応答。

をAIに整理させれば、

「この人ならどう判断するか」

をある程度再現できる可能性があります。

「マニュアル」より一段上の知識継承

従来の技術継承は、

マニュアルを書く。

チェックリストを作る。

教育資料を残す。

という方法が中心でした。

しかし現実の仕事は、ルールだけでは判断できません。

例えば、

「原則はAだが、この条件ならB」

「規則上OKでも、このパターンは過去に問題になった」

「この顧客なら安全側に振った方がいい」

といった判断があります。

人間の仕事の価値は、こうした例外処理にあります。

AI分身の本当の価値は、

答えを保存することではなく、判断基準を保存すること

なのかもしれません。

AI会議代理人は現実になる

ここから先はさらに面白くなります。

自分の判断パターンをAIに反映できるなら、

会議そのものを代理させることも可能です。

例えば部長が忙しくて会議に出られない。

代わりに部長AIが参加する。

議論を聞く。

過去の方針を参照する。

「この条件なら賛成」

「予算が○○を超える場合は本人確認」

などと判断する。

重要案件だけ本人にエスカレーションする。

これは現在のAIエージェントの延長線上にあります。

「AI役員」もあり得る

企業経営ではどうでしょう。

経営会議に、

CEO AI。

CFO AI。

CTO AI。

事業責任者AI。

を参加させる。

新しい投資案件を提示すると、それぞれのAIが異なる視点から議論する。

CEO AIは成長戦略。

CFO AIは投資回収。

CTO AIは技術リスク。

法務AIは規制。

人事AIは組織への影響。

を評価する。

そして実際の経営陣は、

AI同士の議論を読んだ上で最終判断する。

こうなるとAIは「資料作成ツール」ではありません。

意思決定シミュレーター

になります。

これこそ「第二のレビュアー」

私は、この使い方がかなり現実的だと思います。

AIに最終決定をさせる必要はありません。

むしろ、

「自分とは違う判断をするAI」

を複数用意する。

例えば、

慎重派AI。

攻めるAI。

品質重視AI。

コスト重視AI。

顧客視点AI。

技術者視点AI。

を議論させる。

その結果を人間が見る。

これは非常に強力です。

人間だけで会議をすると、組織の力関係や空気によって意見が偏ります。

AIなら意図的に異なる立場を作れます。

Rule × AI × Humanで考える

ただし、ここでもAIだけに判断させるのは危険です。

重要になるのは、

Rule × AI × Human

です。

Ruleで、

AIが単独判断してよい範囲。

本人への確認が必要な範囲。

禁止事項。

権限。

を決める。

AIは、

情報収集。

比較。

議論。

候補提示。

一次判断。

を担当する。

Humanは、

例外。

倫理。

責任。

最終承認。

を担う。

「AIに任せるか、人間がやるか」という二者択一ではありません。

どこまでAIに委任するかを設計すること

が重要になります。

しかし、危険な問題もある

AI分身が普及すると、当然リスクもあります。

最も分かりやすいのが、

本人が言っていないことを、本人らしく言わせられる

ことです。

現在の生成AIは文章だけでなく、

音声。

画像。

動画。

まで生成できます。

すると将来的には、

本人そっくりの顔。

本人そっくりの声。

本人らしい価値観。

本人らしい言葉。

を組み合わせたデジタル人格を作れます。

こうなると、

「本人が本当に言ったのか」

を見分けることが極めて難しくなります。

本人が亡くなった後はどうなるのか

さらに難しい問題があります。

死後の人格です。

著名人の大量の発言記録が残っていれば、

亡くなった後でもAIとして動き続けられる可能性があります。

企業創業者。

研究者。

作家。

政治家。

芸術家。

家族。

本人がいなくなった後も、

「この人ならどう考えるか」

をAIに聞ける。

これは知的資産として非常に価値があります。

一方で、

誰が人格データを所有するのか。

誰がAIを停止できるのか。

本人が望んでいたのか。

発言の責任は誰が負うのか。

という問題が生まれます。

AI時代には「肖像権」だけでなく、

人格モデルの権利

という考え方が必要になるかもしれません。

「自分のコピーを作られない権利」

さらに今回の実験のように、公開情報だけでも人物モデルを作れるなら、

本人の許可がなくても「それらしいAI」を作れる可能性があります。

すると将来的には、

「私をAIとして再現しないでほしい」

という権利も議論されるでしょう。

文章をコピーしなくても、

話し方。

思想。

判断パターン。

価値観。

を再現できてしまう。

著作権とは違う、新しい問題です。

そして「distillation」という言葉にも注意したい

今回の記事ではdistillationという言葉が使われています。

一般にAI分野のdistillation、つまり「知識蒸留」は、強力なモデルの出力を利用して、より小さなモデルなどに能力を移す技術を指します。

今回Chen氏が使っている「自分自身をdistillする」という表現は、そこから少し広げた比喩的な使い方です。

公開発言から、

価値観。

判断基準。

話し方。

考え方。

を抽出し、AIプロンプトや人格設定に反映させる。

したがって、

「人間の脳をAIにコピーした」わけではありません。

ここを混同すると、このニュースを必要以上にSF的に捉えてしまいます。

5年後、会社に「AI分身」は普通にいるかもしれない

ここから5年ほど先を想像してみます。

社員一人ひとりが、自分専用のAIを持つ。

AIはその人の、

担当業務。

過去プロジェクト。

メール。

会議記録。

判断基準。

専門知識。

を理解している。

そして、

簡単な問い合わせ。

定型判断。

情報整理。

一次レビュー。

を代行する。

本人は、

新しい問題。

難しい意思決定。

顧客との信頼関係。

新しい知識の獲得。

に集中する。

Kun Chen氏自身も、自分をdistillする理由について、繰り返し可能な仕事をAIに任せ、自分にしかできない部分へ時間を使うことだと説明しています。

この考え方は非常に重要です。

AI時代の「自分の価値」とは何か

もし自分の知識や判断をAIに移せるようになったら、

一つ怖い疑問が生まれます。

「自分がいなくても仕事が回るなら、自分の価値は何なのか？」

しかしChen氏の答えは逆です。

AIにコピーできるものはコピーしてしまえばいい。

そして人間は、

新しい知識を得る。

新しい経験をする。

新しい洞察を作る。

人との信頼関係を築く。

という「まだコピーできない部分」を強化する。

これは50代のベテラン技術者にも非常に重要な考え方だと思います。

30年間蓄積した知識を自分の中だけに閉じ込めるのではなく、

AIが使える形に変える。

そして自分自身はさらに次の経験へ進む。

それがAI時代の技術継承になる可能性があります。

AIに奪われないためではなく、AIに渡せるものを増やす

これまでは、

「AIに仕事を奪われるか？」

という問いが多く語られてきました。

しかし今回のニュースを見ると、問いそのものを変えた方がよいのかもしれません。

「自分の仕事のうち、AIに渡せるものはどこまであるか？」

AIに渡せる判断は渡す。

繰り返し業務は渡す。

過去の知識は渡す。

その分、人間は新しい価値を作る。

この循環が作れれば、AIは自分の代替ではなく、

自分の能力を拡張する分身

になります。

「本人がいなくても議論できる時代」はもう始まっている

今回作られた4人のAI経営者は、本人たちではありません。

未来を正確に予測する存在でもありません。

それでも、この実験は一つの大きな変化を示しています。

人間が残した大量のデジタル情報から、

「その人ならどう考えるか」をAIがシミュレーションできる時代

が始まりました。

次に起きるのは、

AI秘書。

AI上司。

AI専門家。

AI役員。

AI経営者。

そして、

「自分自身のAI分身」

かもしれません。

そのとき重要なのは、

「AIに自分をコピーされないようにすること」だけではありません。

むしろ、

自分の何をAIに残し、何を人間にしかできない価値として育てるのか。

これがAI時代のキャリアを考える新しい問いになるのではないでしょうか。

#生成AI #AIエージェント #デジタル分身 #SamAltman #ElonMusk #DarioAmodei #MarkZuckerberg #技術継承 #キャリア #働き方