Cerebras創業者アンドリュー・フェルドマン氏、2016年の創業時の狙いを語る ― 「作れるか」と「売れるか」の2つの問い
AIチップ企業Cerebrasの創業者兼CEOアンドリュー・フェルドマン氏が、同社に長年関わる投資家(ベンチマーク)のエリック氏とともにポッドキャストに出演し、2016年の創業の経緯から、資金枯渇の危機、半導体サプライチェーンの実態、そして、NVIDIAが偉大な企業である理由まで、幅広いテーマで語った。本稿では、その要点を紹介する。
1. Cerebras創業の背景(2016年)
フェルドマン氏は、コンピュータアーキテクトとして新しいワークロードの出現を目にすると「作れるか(Can I)」「作るべきか、つまり、十分な需要があるか(Should I)」という2つの問いを立てるという。2016年当時、AIは、携帯電話向けARMプロセッサの普及とは異なり、電力効率よりも計算量そのものが重い新しいワークロードだと見立てた。当時使われていたアーキテクチャは、本来AI向けに設計されたものではなく、既存のものを無理に転用し直している状態だと見抜き、そこに「もっと良いものを作れる」という商機を見出したのが創業の出発点だったと振り返る。
2. 投資家エリック氏が半導体未経験でも投資した理由
半導体投資の経験がなかったエリック氏は、ベンチャー投資に伴う「怖さ」について率直に語った。会社と深く関わるほど、その困難さを目の当たりにして"傷"が積み重なり、次にまた同じような賭けに出られるかどうか自問するようになるという。当時は、Cerebrasが、どれほどの科学と技術のブレークスルーを積み重ねる必要があるか、会社が何度も崖際に立たされることになるかを正確には理解していなかったという。同氏は、こうした挑戦をもう一度行うには「なんとかなる」という一種の"無邪気さ"が必要で、それがなければ再挑戦はできないと述べた。
3. 巨人(NVIDIA)に挑む戦略 ― 「少し良い」では意味がない
3-1 徹底した内製化という選択
フェルドマン氏は、NVIDIAのような高い利益率を持つ支配的企業に対しては、「少し安い」「少し速い」という程度の差別化では対抗できないと説明する。相手は、コストを削り、価格を下げ、バンドルを組むなど無数の対抗手段を持つため、たとえ相手が製品を無償で配ってでも対抗できないほどの、10倍・100倍・500倍という次元の性能差を打ち出す必要があるという。そのためには、設計・実装・製造・ソフトウェア・APIまで全ての要素を自社でコントロールする「徹底的な革新」が不可欠だとし、これは開発期間もコストも増やし、失敗の種類も増えるが、その過程で世界最高レベルのパッケージング技術を独自に獲得できたと語った。ウェーハサイズのチップ向けの放熱機構など、既存のカタログに存在しない部品を自ら開発し続けた結果、周辺技術についても圧倒的な専門性が培われたという。
3-2 「100倍」という目標の定量的な根拠
エリック氏は、これを定量化し、成熟した競合が毎年2倍のペースで進化するとすれば、新興企業が5年でスケールに到達する頃には競合は「2の5乗」、つまり、32倍先を行っていると説明した。そこにさらに数倍(たとえば3倍)の優位性を求めるなら、目標とすべきは現在の製品水準の「2倍」や「10倍」ではなく、5年後の競合の水準に対して約100倍という規模になる。多くの新興企業が「これまでのものより50%良い」「2倍良い」と語りがちだが、比較対象にすべきは"今の製品"ではなく"5年後、その巨大企業がさらに進化させた製品"であり、NVIDIA・Google・AWSのTrainiumのような大企業も毎年着実に前進している以上、目指すべき差は数十万倍単位になるとの見立てが示された。
4. 資金が尽きかけた18か月間 ― 「まだ作れません」を繰り返す日々
創業当初、誰もウェーハスケール(ダイナー皿サイズの巨大チップ)を成功させた例がなく、実現不可能だと言う声も多かったという。フェルドマン氏によれば、月800万ドルを消費しながら「まだ作れない」という報告を6週間ごとの取締役会で繰り返す期間が約18か月続いた。取締役たちは「何か手伝えることはないか」と尋ねたが、答えは常に「何もない、できることはない」だったという。それでも、失敗するたびに徹底した原因分析(フェイラー・アナリシス)を行い、「同じ失敗は二度しない、新しい失敗だけを積み重ねる」という信条のもとで前進を続けた。初期にはウェーハが数秒で割れてしまう状態だったが、それが数分持つようになり、やがて1時間動作する試験に成功し、また数分で割れる時期に戻りながらも、着実に前進していったという。
5. 「75年間解けなかった問題」を解いた瞬間
2019年7月のある日、壁に穴を開けて排熱するような小さな仮設ラボで、温度が安定して稼働し続けるサーバーを見つめていた瞬間があったという。フェルドマン氏は、それを「ペンキが乾くのを見ているのと同じくらい退屈な光景」と表現しつつ、「コンピューティングの75年の歴史で誰も解けなかった問題を、たった今解いたんだ」と実感した、人生で最も感動した瞬間の一つだったと振り返った。
6. 次世代のウェーハスケール革新 ― メモリと光配線
今後5年の研究開発の方向性について、フェルドマン氏は、コンピュータの基本要素を「計算」「記憶」「転送」の3つに整理し、いずれの領域でも革新を追求していると説明した。具体的には、米政府との大型プログラムで進めているSRAMベースのウェーハ上にHBM(高帯域幅メモリ)を積層し、HBMの容量とSRAMの速度を両立させる取り組みや、光スイッチをウェーハ上に直接組み込む「光ウェーハスタッキング」が挙げられた。著名なコンピューティングの先駆者ジャック・ドンガラ氏の「我々は、フロップス(計算)を作るのは得意になったが、フロップスを動かす(転送する)ことはまだ苦手だ」という言葉を引きつつ、光スイッチングを計算そのものの近くに持ち込むことでこの課題に取り組んでいるとし、これらも米政府との大型契約の対象になっていると述べた。
7. 半導体サプライチェーンの実態 ― ASMLとTSMC
7-1 「現代のピラミッド」としてのファブ
「砂からチャットボットの回答までどうつながっているのか」という問いに対し、フェルドマン氏は、最先端の半導体工場(ファブ)を「現代のピラミッド」と表現した。建設コストは400億〜500億ドル、稼働寿命は4〜5年、サッカー場ほどの規模で、テキサスに新工場を建てたサムスンの例では、コンクリートを流し込むためだけの発電所を先に建設し、何年にもわたってコンクリートミキサー車を24時間体制で走らせ続けたという。
7-2 世界に一社しかないASML
露光装置を製造するASMLの装置は1台あたり15〜18メートル、高さ約6メートルで価格は5億ドル規模とされ、現時点でこの装置を作れるのは世界でASML一社のみだという。同じ機械でもTSMCは他社にはできないことを実現できるといい、フェルドマン氏は、これをデビアス社が行ったような供給操作による独占ではなく、他社が模倣できない技術力そのものによる「真の独占」だと説明した。
7-3 TSMCの工程とコストの不思議
TSMCについては、装置を購入し数十年の経験を積み上げてウェーハからチップを生産する存在であり、シリコンのインゴットを薄いディスク(ウェーハ)に切り出し、光リソグラフィー工程でトランジスタを刻み込み、最終的にチップとして切り出す。最先端技術者が2年かけて設計したチップが、数百億ドル規模の工場を経て最終的に一つ22ドル程度のチップとして出てくる様子を「人類が作った最も驚くべきものの一つ」と評し、「近所のブリトーが17ドルもする」というジョークを交えて、そのコストの安さと技術の高度さのギャップを強調した。
7-4 需要と供給のミスマッチ
ボトルネックの多くは、ASMLではなく、TSMCレベルにあるという。露光装置そのものの供給が制約になっているわけではなく、NVIDIAのような企業の需要が指数関数的に伸びる一方、ファブの建設には5年程度を要するため、常に需要が供給を上回る構造になっているとフェルドマン氏は説明した。これはデータセンターの建設が「不動産の速度」で進む一方、AIが「ソフトウェアの速度」で進化していることとも同じ構図だと述べた。
8. 米国が戦略産業を手放した経緯
フェルドマン氏は、過去30年間の政策判断により米国内から半導体工場やその周辺のツールベンダー、パッケージング企業(AmkorやASEなど)が流出してしまったことを「戦略的産業を手放してしまった、賢明ではない判断だった」と批判した。対応策として、TSMC・Samsung・Global Foundriesと協議し、20年間にわたり地方条例を適用除外するなどして国内でのファブ建設を後押しすべきだとの考えを示した。同氏は、かつて大型船がパナマ運河で身動きが取れなくなった際に半導体不足や洗濯機の購入難が生じた例を挙げ、もし米国が半導体の製造能力を完全に失えば、産業だけでなく経済全体にとって破滅的な事態になると警告した。
9. ハードウェア企業における取締役会の役割
エリック氏は、自身の専門外の技術領域については口を出さず、財務や資金調達など自分の強みを発揮できる領域に集中したことが、良い取締役の条件だったと振り返る。フェルドマン氏も、ハードウェア企業では最初のチップが良い製品になることはほとんどなく(Googleの TPUチームでも4世代目でようやく良い製品になったという)、この「長期戦」であることを理解し、人材採用の方向性や、専門特化と汎用性のどちらを選ぶかといった大局的な問いを取締役会が投げかけることが、技術的な意思決定そのものに介入するよりも有益だったと述べた。ソフトウェア企業と異なり、ハードウェア企業では顧客に製品を見せられるようになるまでに2〜3年かかり、その間の「顧客調査」は当てにならない(誰も他人のアイデアに面と向かって"だめだ"とは言わないため)ため、投資家は開発の軌道そのものを理解し、正しい問いを立てることに徹するべきだという整理が示された。
10. アーキテクチャの賭け ― 汎用性を選んだ判断
フェルドマン氏は、初期のアーキテクチャ設計における重要な判断の一つとして、畳み込みニューラルネットワーク(CNN)に特化した高速化技術を組み込まなかったことを挙げた。当時主流だったCNNがいつまで使われ続けるか分からない以上、その一段下にある「AI全般を支える代数演算」そのものを高速化する方針を選んだという。この判断は、まだ発明もされていなかったTransformerが登場した際に功を奏し、Cerebrasのチップは、初めて触れたにもかかわらず、その計算に最も速く対応できたと振り返った。ハードウェアはソフトウェアのように「昨日の判断が間違っていたら今日修正する」ことができない分野であり、こうした離散的で重大な意思決定を「3回測って1回で切る」ほどの慎重さで下す必要があると同氏は述べた。
11. トレーニングからインフレンスへの転換 ― 「ホップ・トゥ・ホップ」の意思決定
Cerebrasは、当初、訓練(トレーニング)システムとして構想されていたが、フェルドマン氏は、この間の意思決定プロセスを、固定回線のような「サーキット型」の発想ではなく、インターネットのルーターが一区間ごとに最適な経路を選び続ける「ホップ・トゥ・ホップ」型の発想だったと表現した。目指すべき"金の壺"がどこかにあることは分かっていたが、そこへの道筋は誰にも分からなかったため、一つの山を越えるたびに周囲を見渡し、次の判断を下し直すという繰り返しだったという。AIの急速な進化と知能の広がりを目の当たりにする中で、「誰もがAIを使うようになれば、その利用形態は推論(インファレンス)であり、そこにこそ計算インフラの需要が集中する」という見立てに至り、事業の重心を推論へ移していったという。
12. AIインフラの建設規模とサム・アルトマン氏の"先見性"
対談では、AIインフラへの投資規模の異常さについても語られた。過去、道路や電話網への投資は、米国GDPの約1%、鉄道は約2%だったのに対し、現在のAI関連インフラ投資は、GDPの約3.5%に達しているという統計が紹介された。フェルドマン氏は、OpenAIのサム・アルトマン氏だけが、この指数関数的な成長カーブを正確に見通し、「怖がらなかった」人物だったと評価する。7兆ドル規模ともされた「Stargate」構想が発表された当初は多くの人に笑われたが、今振り返れば当初のStargate構想は、「悲しいほど小さい」規模になっているとし、TSMCやNVIDIA、メモリメーカーを含め、業界全体がこの規模を見誤ったと振り返った。
13. データセンターのボトルネックとインフラ課題
データセンターの建設について、フェルドマン氏は、米国の電力網が1940〜50年代の技術のままであることを指摘し、これまで敬遠されてきた原子力のような技術への関心が、AIによって再び高まっていることを「皮肉だが良いことだ」と評した。データセンターのバックアップ電源として使われるディーゼル・LNG発電機の分野ではここ数十年イノベーションが停滞していたが、ジェットエンジン技術の応用を目指すBoom社や、燃料電池を手がけるBloom Energy社など、新たな参入が相次いでいるという。データセンター1件あたり50メガワットのブロックを立ち上げるには、既存の建物と電力網がある「ブラウンフィールド」案件でも約18か月を要し、発電機や変電設備などの長納期品がボトルネックになりやすいという。また、データセンターの水使用量についても「米カリフォルニア州のアーモンド農家の使用量の4分の1から7分の1程度」にとどまり、水資源の懸念は実態以上に誇張されていると説明した一方、業界が地域社会への説明を十分に行わず、雇用創出などのメリットを伝えきれなかった点は反省すべきだと述べた。
14. サプライチェーンの複雑さ ― ソフトウェア企業との違い
エリック氏は、ソフトウェアインフラ企業であれば重要な取引先は、AWSと基盤モデル企業の2社程度に集約されるのに対し、Cerebrasのような企業では冷却プレートや配水システムを手がける専門メーカーまで含め、数十社規模の依存関係を同時に管理する必要があると指摘した。フェルドマン氏は、これに「チェーン(鎖)と呼ばれるのには理由がある」と応じ、指数関数的な成長局面ではこの複雑さがさらに増幅されると説明した。ウェーハの生産能力を追加するといった意思決定には15か月ほどのリードタイムと巨額の資本が必要で、ベンダー側もそれに応じた大規模な供給配分の判断を下す必要があるため、両者が同時に"賭け"に出る形になるという。
15. Cerebrasを支えた「関係性」という資産
フェルドマン氏は、TSMCや契約製造業者との数十年にわたる関係が、危機的な局面でも力を発揮したと語った。良い時も悪い時も一貫して約束を守り続けてきたことが信頼の土台になっているといい、新しいパートナーとの関係構築についても、基本は「早く情報を共有する」「言ったことを実行する」「お礼状を書く」といった、母親に教わるような当たり前の姿勢に尽きると述べた。また、Cerebrasは、5人の共同創業者体制でスタートしたが、これは通常であれば多すぎる人数だとしつつ、全員が過去に一緒に働いた経験があり互いの強みを理解していたため、対立はほとんどなかったという。優秀な人材かどうかは、共に働き始めてから6〜8週間程度で判断できるとし、最初のメールの書き方一つからでも「重要度順に整理され、無駄がなく、示唆に富む」人物かどうかが分かるとの持論を披露した。
16. スピードが市場を作る
フェルドマン氏は、速度への投資がこれまで新しい市場そのものを生み出してきたと指摘する。「遅い検索」や「ダイヤルアップ接続」に市場が存在しないのと同様に、AIについても「遅くても構わない」と考えるのは誤りだという。インターネットが遅かった時代、Netflixは、DVDを郵送するサービスだったが、通信速度が上がったことで同社は"郵送業者"から"映画スタジオ"へと変貌した。既存の事業を改善したのではなく、まったく新しい存在になったのだ、と同氏は例える。直近、限定提供が始まったとされる新モデル「GPT-5.6 Sol」についても、フロンティア級の知性を即座に得られることで、人々が全く新しいアプリケーションの可能性を考え始めているとの見方を示した。
17. AMD・AWSとの「分離型推論」提携
フェルドマン氏は、推論処理の一部を他社のチップに任せ、一部を自社が担うことでスループットを高める「ディスアグリゲーション(分離型推論)」という取り組みをAMDおよびAWSと進めていることを明らかにした。AMDとの提携では、速度を維持したまま5倍のスループット向上を実現しており、AWSとも同様の成果が出ているという。同社のアーキテクチャ上、NVIDIA・AMD・Google TPU・AWSの独自チップという主要4陣営のいずれとも組める可能性があり、既に2社と提携している状況だという。
18. NVIDIAが偉大な理由
NVIDIAの成功要因について問われたフェルドマン氏は、CUDAやチップアーキテクチャそのものが理由ではないと持論を展開した。同氏によれば、2000年代の約10年間、NVIDIAの株価は、低迷し、誰にも耳を貸されず製品も思うように売れない上場企業として苦しい時期を過ごしたが、その中で培われた執念と粘り強さこそが、10年後に世界最大の企業へと躍進する原動力になったという。CEOジェンスン・フアン氏が今なお現場で"戦い続ける"姿勢を見せていることも、この文化を体現しているとの見方を示した。
19. 「プロフェッショナル・デビッド」というメンタリティ
フェルドマン氏は、自身を「巨人ゴリアテと戦うプロのダビデ」と位置づける。これまで5社の半導体企業を立ち上げ、3社を売却し、1社(前職)、そして、今回のCerebrasを上場させてきたといい、会社が成長し競合や批判が増えるたびに「今度は何を言われるだろう」と考えながらも、その度に壁を越えてきたと振り返った。「ウェーハスケールは作れない」と言われては作り、「量産では歩留まりが出ない」と言われては歩留まりを出し、「量産パッケージングはできない」と言われては実現し、「政府顧客しかいない」と言われてはソブリンクラウド顧客を獲得し、「フロンティア企業の顧客がいない」と言われてはOpenAIを獲得し、「ハイパースケーラーがいない」と言われてはハイパースケーラーを獲得してきたという。こうした一つひとつの"次の壁"が自分を奮い立たせる原動力であり、金銭や名声のためではなく、「他の人には作れないほど難しいものを作ること」自体が原動力だと語った。
20. 若手プロダクトリーダーとベテランエンジニアの組み合わせ
Cerebrasの組織づくりについて、フェルドマン氏は、プロダクト部門では若手であっても抜群に優秀な人材を積極的に昇進させる一方、チップ設計そのものについては過去に半導体を実際に作った経験が成功の最良の予測因子になるとして、経験を重視する領域とそうでない領域を明確に区別していると説明した。共同創業者の一人であるショーン氏は、前職では個人の技術者として採用された際にまだ25〜26歳だったが、その4年後に会社がAMDに買収された際には「コーポレートフェロー」という異例の地位まで昇進し、現在はCerebrasの共同CTOを務めているという。
21. スタンフォード大学キャンパスでの生い立ち
フェルドマン氏は、両親がスタンフォード大学の教員だった関係で同大学のキャンパス内で育ち、隣人にはトランジスタの発明者でシリコンバレーの生誕に関わったウィリアム・ショックレー氏がいたという逸話を紹介した。子供の頃に知っていたのは「彼の妻がハロウィンにフルサイズのお菓子を配ってくれる」ということだけだったという。父親のテニス仲間には、ノーベル経済学賞受賞者3名とフィールズ賞受賞者1名が含まれていたとしつつ、「その人はダブルスが下手だった」というユーモアも交え、当時のコミュニティで通用する"通貨"は富や実績ではなく、純粋な知的能力だけだったと振り返った。同氏は、スタンフォード大学院で経済学の博士号取得に向けて資格試験まで進んでいたが、その途中でビジネススクールに通ったことがきっかけで現在の道に進んだという。
オススメ記事
