OpenAIのSam Altman氏、スタンフォードGSBで「数学的推論では、すでに超知能がある」と発言 ― AIの進歩の「ペース配分」を見直す必要性に言及
OpenAIの共同創業者でCEOのSam Altman氏が、スタンフォード大学経営大学院(GSB)の講演シリーズ「View from the Top」に登壇しました。約48分のインタビューでは、起業家としての原点、OpenAIの設立当時の見立て、AIの進歩のペースを巡る難題、サイバーセキュリティ、仕事とキャリア、そして、学生からの質問まで、幅広いテーマが語られました。
本記事では、投資家・ビジネスパーソン向けに内容を整理します。発言は要旨で、逐語ではありません。字幕の自動書き起こしに誤りとみられる箇所があり、固有名詞や数字は文脈から補っています。確認できない点は、末尾の補足にまとめました。
1. 起業家としての原点
1-1. 投資銀行のインターンを蹴ってYCへ
Altman氏は、スタンフォード時代に投資銀行のインターンを内定していたそうです。理由は「周囲の賢い学生がみな目指していたから」で、同氏自身は「仲間からの圧力に負けた」と振り返りました。ニューヨークに招かれ、豪華な夕食でもてなされて高揚した一方、次第に「自分には合わない」という不安が強まったといいます。
そのころ、友人たちと進めていたプロジェクトに、Y Combinator(YC)が夏の生活費を支援すると申し出ました。同氏はこれを「宇宙からの合図」と受け止め、起業を選びました。
1-2. 「起業1か月でMBA1つ分」
学校を離れることは悲しかったものの、起業は「人生で最も学習速度が速い環境」だったと語りました。ポール・グレアム氏のような人物に、「起業1か月でMBAを丸ごと学べる」と言われたことがあり、自分はMBAを持たないので真偽は分からないとしつつ、事業、プロダクト、顧客、営業について急速に学べたと述べました。
学び方については、準備に時間をかけすぎず、まずやってみることを勧めています。ただし、無計画に試すのではなく、実験を重ね、その結果を振り返ってモデルを更新する「意図的な練習」が前提です。人は、飛び込んだ時に自分がどれだけ早く上達するかを、たいてい過小評価するといいます。
2. OpenAIの構想と、想定外の進路
2-1. 「ディープラーニングは機能していた」
2015年のOpenAI設立時、汎用人工知能(AGI)は当面不可能だと見る人が大半でした。Altman氏は、当時の自分たちが見ていたものを、「ディープラーニングが機能していた」と説明しています。
2005年、スタンフォードの教授から、「確実に言えるのは、ディープラーニングは機能しないことだ」と言われた
2012年にAlexNetの成果が出て、2014年には、規模を大きくするほど様々な面で性能が上がることが見えてきた
世の中はこれをまったく受け入れず、「小細工にすぎない」と言う人もいた
同氏がキャリアを通じた中心的な洞察と呼ぶのは、「美しく伸びる指数関数を見たら、続けるべきだ」という考えです。人間の直感はこれが苦手で、同氏は、企業の規模の効果、YCのようなネットワーク、ニューラルネットワークなどで同じ経験をしたと述べました。OpenAIの内部でも、壁にぶつかったと確信を失いかけた時期が何度かあったそうです。
2-2. 研究所から製品会社へ
OpenAIは、製品を作らない非営利の研究所として始まりました。同氏にとっては「引退後のプロジェクト」のような位置づけで、最初の5年は「想像しうる最高の仕事」だったといいます。
しかし、AIの発展の仕方は想定と違っていました。当初の計画は、いわばミームのようなもので、「研究をして、超知能を作り、(疑問符がいくつも並び)人々が幸せになる」というものでした。実際には、その超知能を人々の手に届けて社会に役立てる「難しい仕事」が必要でした。
同氏は、この技術を、電気やトランジスタのような「通常の経済的な力」に近いものだと捉え直しています。他の企業、技術、科学的発見を可能にする基盤で、ChatGPTのような製品を作ることと、人類史上最大級の計算資源を整えることが、その基盤を届ける作業にあたるという考えです。2020年末から2021年初めには、大きな会社を作る必要があると明らかになり、ChatGPTの公開(約4年前)後には、一夜にして大企業になることが決まったと語りました。聞き手によれば、現在、ChatGPTは週に10億人超が使っています。
3. AIの「ペース」を巡る難題
3-1. 最も難しい意思決定
最も難しい判断は何か、という問いに、同氏は「一時停止、ペース配分、知能の速度制限などと呼ばれる問題」と答えました。前提は次の2つです。
人間が常に未来を支配し続けるべきで、AIに意思決定の力を不可逆的に委ねたり、うっかり制御を失ったりしてはならない
力は分散されているべきで、「IQが100億のAI」にも、AIを持つ少数の人にも、過度な集中があってはならない
この2つを信じるなら、「最も賢い人間より、AIをどこまで、どれだけ速く賢くしてよいのか」「人間が賢くなる、あるいはAIを理解する能力をどう高めるか」という難しい問いに行き着きます。同氏は、解決可能だが時間がかかると述べました。また、あらゆる規制が悪いという意見も、すべての進歩を今すぐ止めるべきという意見も、どちらも誤りだと考えており、「実践的な中道」に立つことは難しい立場だと語りました。
3-2. この半年で試された確信
同氏は、反復的な展開(iterative deployment)や、社会がこの技術と向き合うべきだという初期の信条は変わっていないと述べました。一方、過去6か月の進歩は、その確信を試したといいます。
数学的推論という限られた領域では、「超知能がすでにある」と考えており、こんなに早く来るとは思わなかった
今後1〜2年も同様のペースで進むなら、現状を何も変えないままでは機能しない
そのため、進歩のペース配分の考え方を変える必要がある
社内の議論も変わってきたそうです。モデルの性能向上を目にする人が増えるほど、意見の幅は狭まり、「どれほど良くなるか」の議論が、「戦略は何か」の議論に置き換わったといいます。国連でも講演したというインタビュアーの紹介を受け、同氏は、各国政府の関心が最近数か月で高まったと感じており、状況を前向きに見ていると語りました。
4. サイバーセキュリティ:「パッチでは足りない」
組織やリーダーが今すぐ備えるべきことを問われると、同氏は、まずサイバーセキュリティを挙げました。自分たちが十分に真剣に受け止めていない問題が近づいている、という認識です。
今年前半に「Mythos騒動」(字幕の表記)があり、一部の人は脆弱性を修正した。しかし、人は指数関数を直感的に理解できない、という典型的な例だった
当時のモデルが見つけた脆弱性が、「見つかるすべて」ではない。モデルはさらに賢くなり、通常の攻撃者の想定を超える、ハードウェアレベルのバグも見つけ得る
セキュリティ専門家やCISOは危機感を持ち続けているが、多くの組織のリーダーは「もう一段落した」と考えている
同氏は、「もはやすべてのバグにパッチを当てられるとは考えていない」と述べ、防御のモデルを根本から変え、同じ技術を使った「新しい種類の防御の盾」へ移る必要があるとしました。そして、この問題にこれほど注目が集まっていないことに、驚いていると語っています。
5. 仕事とキャリア:変化は思ったほど速くない
5-1. 「雇用の黙示録」にはならない
MBA生へのアドバイスとして、同氏は、変化は人が思うほど急速には進まないと述べました。多くのタスクがAIによってより安く、速く行われるようになり、現在のやり方では、一部の職種が丸ごとAIに置き換わるのも事実だといいます。
その上で、数学者のコミュニティで直近10日間に起きた反応の変化を例に挙げました。
当日:「これは偽物だ」
翌日:「もう終わりだ。大学院生に専攻を変えるよう言っている」
3日目:「OpenAIがこんなことをしたのは許せない」
5日目:「確かに、ある種の数学の仕事は終わる。ただ、私たちの仕事の大半は、ミレニアム懸賞問題を解くことではなく、知識を理解し、人間に分かる形で伝え、提示することだった」
同氏は、この分野が最も速く一巡したが、他の分野でも同様のことが、より遅く起きていると指摘しました。プログラマーは、一時期「仕事は終わり」と言われたが、いまは、コンピューターに何かをさせられる人にますます高い給与が支払われる流れになっています。コンサルタントも、AIがスライドを作れるようになっても、人は他の人と話したがり、AIコンサルタントに指示されたい人はほとんどいない、と述べました。
5-2. 「地面が最も揺れている時」に始める
同氏は、キャリアを始めるなら、変化が最も大きく、競争の場が最も開かれている時期がよいと述べ、高い潜在力と意欲、新しい視点を持つ人は、「地面が最も揺れている時に相対的にうまくいく」と語りました。MBA生について、「5年前にかっこよかったことを選びたがる」ことが慢性的な不満だともいいます。
ただし、いまは「もう一つのOpenAIを始める時期ではない」とも述べました。代わりに、OpenAIが世に出した技術の上に、OpenAIよりも大きく重要になる企業が、数多く生まれると期待しているそうです。
6. 人間に残る価値:学ぶべきこと
6-1. 筆記体と「考えるための書くこと」
何を自分で学ぶべきかという問いに、同氏は、小学校の先生の話で答えました。2年生の時の先生は、筆記体を習うことが重要だと言い張り、同氏は「二度と使わない」と反発しました(実際、いまは書けないとのことです)。数年後の別の先生は、「書くことは考え方を学ぶ道具だ」と教えました。
同氏の結論は、次のとおりです。
考える力を鍛える技能は、今後も非常に価値がある
機械の領域に入ることが明らかな技能は、価値が低い
6-2. 人間の価値は「人がやる」ことにある
残るものとして、同氏は「人間の価値は、人間のものであるがゆえに固有の価値がある」と述べました。私たちは、機械が自分のために何をするかには関心を持たず、AIの能力がどこまで高まっても、これは変わらないといいます。科学の歴史を、人類の「主人公意識」への失望の連続(天動説の否定など)と表現しつつ、人は自分の物語の中心にい続けるし、それは良いことだとしました。安全面さえ整えば(制御を失う事故が起きなければ)、仕事も、人が行うから意味を持つ、と述べています。そして、他の人に役立つ方法を見つけることは、「驚くほど学べる技能」だと語りました。
6-3. 「ルネサンス」か「産業革命」か
将来像について、同氏は、「新しい産業革命」より「新しいルネサンス」に向かってほしいと述べました。AI分野のエネルギーの多くは前者(すべてを自動化し、人間を方程式から取り除き、人々に一定の金を配り、何が重要かはAIが決める)に向いているが、そうなれば人は機械の歯車になってしまいます。
同氏は、人々はルネサンス版(創造性、探索、知識の発見、自由)を望んでいると考えています。ただし、社会や経済は「容赦ない効率」に傾いているため、企業、政府、人々が、それに対抗する力を働かせる必要があるだろうと述べました。
7. 学生からの質問
7-1. 次のインフラ:ロボット、自社チップ、供給網
「いま、どのインフラに賭けているのか」という質問に、同氏は次の3点を挙げました。
ロボット:AIの再帰的な自己改善とは別に、ロボットがロボットを作り、データセンターが(チップ工場や発電所の運営も含め)データセンターを作る、もう一つのループがある。同氏はこれを、AI研究のループとほぼ同じくらい大きな話で、語られることが少ないと述べた
自社チップ:字幕では「Jalapeño」。ワットあたりの知能の面で、市場の他の製品より大きな成果があり、次の世代も控えている。モデルが賢くなれば、より賢いチップの設計も助けられる
供給網全体:チップ工場、電力、データセンターの設備への投資
7-2. 30歳の時の人生訓の「短縮版」
30歳の誕生日に書いた「The Days Are Long But the Decades Are Short」を、41歳の父親として書き直すなら、という質問には、ごく短い版を挙げました。家族を持つ、自分にとって大切なものを築く、楽しみや充実する活動に時間を使う、健康でいる、の4点です。「年長者がうまくやっているように見えるなら、その言うことを聞くべき」とも述べました。
7-3. 2020年の見立ての誤り:アライメント
2020年の確信で誤っていたことを問われ、同氏は、「アライメント(AIの目標を人間の意図に合わせること)の問題は、もっと難しいと考えていた」と答えました。実際には、一部の重要な面で人間を大きく上回るモデルができた一方、アライメントはこれまでのところ想定より容易でした。以前の自分なら、「このうち一つは確実に誤りになる」と言っただろう、とのことです。
ただし同氏は、次のように警戒しています。
「次もアライメントは容易なまま」と考えるのは、決して自明でない
アライメントを誤った場合のコストは、桁違いに上がっている
当面は、サンドボックスで安全性を担保し、次に監視可能性で対応できるが、いずれも限界がある。最終的に通用するのはアライメントだけで、それも、人間が理解できる形で、自信を持って「このモデルを動かしても、人が未来を制御し続けられる」と言えるものでなければならない
世界のAI開発の中には、これまでの容易さゆえに自信過剰で、先を急ぎすぎる動きがあることを心配している
7-4. 「悪いことが起きても許容」の真意
「AIの便益と引き換えに、ある程度の悪いことを受け入れるべきだ」と発言したという指摘(Decodedポッドキャストでの発言)には、「言い方を変えればよかった」と答えました。意図は次のとおりです。
オープンソースのモデルは、ヘイトスピーチの生成、システムへの侵入、詐欺の代行、新世代の電話詐欺などに使われ得る
だからといって、オープンソースのモデルをすべて禁止することは、革新と自由への代償が極めて大きく、取るべきでない
ただし、ある閾値を超えて害が大きくなるモデルについては、自由に使わせない線を社会が議論する必要がある。具体例は、インターネットを止めること、人に物理的な危害を加えること、新たなバイオテロを起こすこと
同氏は、AIは、一人が引き起こせる害の量を新たな段階に引き上げる点で、過去のどの技術とも異なるとも述べました。社会が適応する中で、一部の自由は手放す必要があるが、それはニューラルネットワークを自分のコンピューターで動かせないという意味ではない、という立場です。
7-5. ソフトウェアの「堀」
ソフトウェア開発者の学生が、モデルの進歩でソフトウェアの優位性(堀)が侵食されていると質問しました。同氏は、歴史的にソフトウェアそのものが強力な堀だったことは、あまりないと答えています。堀は、ネットワーク効果(Facebook)、規模の効果(Google)、データ(企業向けソフトの多く)などにあり、ソフトウェアはそれらの伝統的な堀を築くための一時的な優位性だった、という見方です。
7-6. オープンウェイトのモデル
OpenAI Foundationの職員でもある学生の質問に、同氏は、オープンウェイトのモデルは、ある程度高い能力の水準までは社会にとって重要だと述べました。一方、「現在の最良の社内モデルを、近いうちに責任をもってオープンソースにすることはできない」とも明言しています。そのためには、サイバー防御のあり方、バイオ分野の防御層などが変わる必要があるといいます。
同氏は、クローズドなモデルの「先行優位」が、世界が防御の力を築くための時間になると考えており、OpenAI Foundation(世界最大の財団と紹介)がパンデミック対策などで「防御の盾」づくりを急ぐ役割を担えるとも語りました。
7-7. 「アナログ」のすすめ
ノートを手書きするという同氏の習慣について、「それは間違いで、パソコンに切り替えるべきだ」と笑いました。意味のあるアナログな行いは、他の人と過ごす時間を増やす、一緒に食事をする、自然の中に出る、運動する、といった「昔からうまくいっていること」だと述べています。
8. 組織の未来:「10,000のエージェント」
最後に、将来のリーダーが何に注力すべきかを問われ、同氏は「AI」と答えました。なかでも、AIを前提にした新しい組織の設計は、研究が足りない領域だといいます。
同氏の推測では、現代の組織の設計は軍隊を模倣したもので、階層的な指揮命令の仕組みです。そこで、同氏が注目した例が、「10,000のエージェントがナビエ・ストークス方程式(字幕の表記)を解いた」事例です。同氏によれば、これらのエージェントは、リーダーもおらず、手柄を巡る争いも、内輪もめもなく、全員が目標のために完全に足並みをそろえていました。
人間には「美しい欠点」があり、同じようにはならず、感情のない世界を望むわけでもないと断りつつ、そこから学べるものはあるとしています。OpenAI内部でも、AIを活用して、はるかに小さな規模で動くチームが、働き方を変えているそうです。同氏は、学生たちが新しい組織を設計する人たちになるだろうと期待を述べました。
