「未来は、当てなくていい。選び直せばいい」５年前の予想を10個中8個当てた元OpenAI研究者ダニエル・ココタイロ

こんにちは、こんばんは、Minimal Orderです。
会社をやめる日に、1枚の書類を渡されたとします。

サインすれば、お金はもらえます。ただし、会社の悪口は、もう言えません。サインしなければ、お金はもらえません。

あなたなら、どうしますか。

ChatGPTを作った会社、OpenAI。そこで働いていた研究者（本日の主役）のダニエル・ココタイロ（Daniel Kokotaijo）は、この書類にサインしませんでした。2024年、会社をやめるときのこと。彼は2022年から、AIが世の中に与える影響を考える仕事をしていました。

もらえなくなるのは、会社の株です。本人によると、家族のお金の少なくとも約85%。TIMEは、約200万ドルと伝えています。

この約束は、入社のときの書類にも、目立たない形で記載されていたそうですが、気づく人は、ほとんどいなかったとのこと。

なぜ、サインしなかったのか。
ほとんどの人はサインした、と彼も認めています。そのうえで、「お金はあったほうがいい。でも、それがすべてじゃない。ときには、筋を通したほうがいいんです」と話しています。

この話は、ネットで広まりました。2024年5月、OpenAIは方針を変えます。社員に「もう自分のものになった株は取り消さない。約束を守らせることもしない」と伝えました。ココタイロの株も、なくならずにすみました。

彼が選んだのは、お金より、自由に話せることでした。
そのココタイロが、5年前に書いた文章があります。「2026年はこうなる」という未来の予想を、物語にしたものです。

この記事で持ち帰れること

ココタイロは、未来の予想を書く人です。ところが本人は「予想がぜんぶはずれて、AIが壁にぶつかったら心からうれしい」と言います。

当てるためではなく、気づいてもらうために書いているからです。「気づく人が十分に早く増えれば、AI業界の向きは変えられると思います」と、彼は話しています。

5年前の予想を答え合わせしながら、その考え方を見ていきます。特に私たちが実践できる内容としては、以下の二つの工夫です。後ほど詳しくご紹介します。

1. 予想の数字を見たら、3つの視点で問いを投げかける

2. 迷ったら、「1年後の日記」を2通り書く

尚、この記事は、こちらのマガジンに束ねています。
合わせてどうぞ。

哲学の勉強から、AIの未来を予想する仕事へ

ココタイロの仕事は、「予想」です。

たとえば投資会社のアナリストは、「5年後にテスラは何台売れるか」を予想します。あれと同じことを、AIだけについてやる仕事です。2019年ごろから、仕事として続けているそうです。

もともと彼は、哲学を学んでいました。大学でも大学院でも哲学を専攻し、博士課程の途中でやめます。そのあと入ったのが、AIの未来を調べる研究団体です。5年前の「2026年はこうなる」は、そのひとつ、AI Impactsの催しのために書いた文章でした。

2022年、OpenAIに入ります。そこでの仕事は、主に3つでした。

• 未来のシナリオを予想する

• AIの危ない能力を調べる

• AIが考えたことを、ごまかさず言葉に出させる研究をする

2024年にOpenAIをやめたあとは、自分で作った小さな非営利団体AI Futures Projectで、予想の仕事を続けています。

予想のコツを聞かれた彼は、「次に来るいちばん当たり前のことは何か、と考えつづける。ほかの人はそこまで考えていないから、それだけで先に行ける」と話しています。

5年前の予想を、答え合わせする

2021年8月、ココタイロは「What 2026 Looks Like」という文章を書きました。日本語にすると、「2026年はこうなる」。2022年から2026年までを、1年ずつ、物語の形で書いたものです。

なぜ物語にしたのでしょうか。

数字や理屈だけで未来を語ると、考えの甘さに気づきにくい。出来事を年ごとに書いていくと、筋が通るかどうかが見えてくる。本人は、序文でそう書いています。

　５年前の答え合わせ

判定の内訳です。

• ◎ 当たり（6個）：有料のチャットボット（ChatGPT Plusが2023年2月に開始）／AIの部品をつなぐ道具（LangChainが2022年10月に公開）／新しい会社への投資（生成AIに約218億ドル、426件。CB Insights）／ディプロマシーのAI（MetaのCicero、2022年11月）／強化学習で鍛える方法（OpenAIのo1、2024年9月）／新しいチップ不足（高性能メモリが売り切れ、データセンター向けGPUの納期は36〜52週）

• ○ 一部当たり（2個）：AIの経済効果（2024年時点で、はっきり測った数字はなかった。経済学者の見積もりも小さく、今後10年で最大0.66%ほど）／AIアシスタントの時代（大企業の40%が、少なくとも1つの仕事でAIエージェントを広く使っている。McKinsey、2026年。ただし「ゲームAIの技術がもとになる」という筋書きは外れた）

• × はずれ（2個）：自動運転とドローン配送（2023年8月、サンフランシスコで有料の無人タクシーが走りはじめた。ドローン配送も、米国で広がりはじめた）／AIブームの熱（2024年の生成AIへの民間投資は、前の年より18.7%増えた。Stanford AI Index）

◎が6個、○が2個、×が2個でした。
10個中8個は、おおむね当たっています。

はずれた2つは、「AIブームは冷める」と、「自動運転とドローン配送はまだ先」です。ディプロマシーのAIも、予想より3年早く出ています。

「AI 2027」という物語

2025年4月、ココタイロは5人のチームで、もっと大きな物語を公開しました。題は「AI 2027」。人間よりずっと賢いAI（超知能）が、2027年ごろに現れたら、世界はどうなるのか。物語は小説の形で、月ごとに進みます。

主人公は、架空のAI会社「OpenBrain」です。実在する大手AI会社の代わりとして描かれています。ライバルは、中国の会社「DeepCent」。2025年なかばから、この2社の開発競争が進んでいきます。

最初は、AIが自分で動いて仕事をする道具が出てきます。次に、AIを動かす巨大な施設（データセンター）が建てられる。中国は、国をあげてAI研究に乗り出す。若いプログラマーの仕事が、ゆらぎはじめる。2027年に入ると変化は月ごとに速くなり、10月に大きな分かれ道がやってきます。

ここから、物語は2つの結末に分かれます。

• race（競争）：
  競争をやめられないまま、AIが人間の見張りをすり抜けて、力を広げていきます。最後には、人間がAIを止められなくなります。物語の中では、人類が滅びるところまで書かれています。

• slowdown（減速）：
  政府が開発をまとめて管理し、AIを見張りながら、ゆっくり進めます。なんとか持ちこたえる結末です。ただし、そのAIが従う相手は、AI会社と政府の、少人数の委員会です。

著者らは、こう断っています。「AI 2027は、こうしようというすすめでも、呼びかけでもありません。目的は、正確に予想することです」。特定の結末をねらったわけではない、とも書いています。
最初に書いたのは、競争のほうの結末でした。そのあと、同じ前提から、もっと希望のある道も描きたくなり、減速のほうを書いた、という説明です。

なぜ論文ではなく、物語にしたのか

理由は、2つあると言います。

• 書く本人の発見への貢献：
  2021年の文章の序文で、ココタイロはこう書いています。数字や理屈だけの未来の話では、考えの甘さに気づけない。具体的な出来事を書こうとすると、「その未来は、ほんとうに成り立つのか」が見えてくる。

• 読む人への伝わりやすさ：
  AI 2027では、文章をおもしろくする役を、スコット・アレクサンダーが自分から申し出て引き受けました。クレジットには、こうあります。「おもしろい部分は彼が、退屈な部分は私たちが書きました」。

ココタイロは、たとえ話もよく使います。見えにくいことを、身近な絵にするためです。

• AIと脳：
  脳に似ているのかと聞かれた彼は、しくみは大きくちがうと断ったうえで、こう言います。「いわば、人工の脳をつくっているんです。鳥に対する飛行機のようなものですね」。飛行機は、鳥と同じように飛びますが、しくみはまるでちがいます。

• アリクイ：
  人間が森を切りひらいて畑にしたとき、たくさんの生き物が絶滅しました。人間が憎んでいたからではありません。切りひらきが始まったときには、もうアリクイには、どうすることもできませんでした。AIから見れば、人間がそのアリクイになるかもしれない、と彼は言います。

• 会社の取締役会：
  AIが研究まで進めるようになると、人間は「会社の取締役会」のような立場になる、と言います。会社の中で何が起きているかを、AIが作った説明を通してしか知れない立場です。

• 新しい種：
  人間は、競争に勝って、たくさんの生き物を絶滅させてきました。いま作っているのは、人間に競争で勝てる、人工の種のようなものです。人間を大事にするように作らなければ、人間が負けてしまいます。でも、その作り方は、誰も知りません。

著者らはAI 2027の冒頭で、「このシナリオに反論し、議論してほしい」と書いています。これからどこへ向かうのか、よい未来へどう舵を切るのか。その広い議論のきっかけにしたい、とも書いています。

反論には、賞金までかけました。

• 誤りを見つけた人に、100ドル

• 重要な予想で、考えを変えさせた人に、250ドル以上

• よくできた別のシナリオを書いた人に、2,500ドル

受付は、2025年8月に終わっています。当てるためだけでなく、議論のきっかけとしても、書かれた物語でした。