メインコンテンツへスキップ
見出し画像

【速報】Kimi K3」ソースコードを公開

    の続報です。

    はじめに:AI界にまたしても「大激震」が走った

     2026年7月27日。AIの歴史に、また一つ新しいマイルストーンが刻まれました。

     中国の有力AIスタートアップ「Moonshot AI(月之暗面)」が、世界最高峰の性能を誇る超巨大AI「Kimi K3」のソースコード(モデルウェイト)を突如、完全無料・商用利用可能なライセンスで一般公開したのです。

    「また新しいAIが出ただけでしょ?」
    「どうせ一般人には関係ない、エンジニア向けの話でしょ?」

     そう思った方にこそ、この記事を読んでほしいのです。今回の公開は、単なる「技術の発表」ではありません。米国のGPT-5クラスに匹敵する「超ド級の怪物AI」の脳みその中身が、そのまま丸裸になって世界に差し出されたことを意味しています。

    なぜ、世界中のエンジニアがここまで大騒ぎしているのか?

     理由はシンプルです。
     公開されたコードを読み解くと、そこには「これまでのAIの常識をひっくり返す、執念とも言える3つの大発明」が隠されていたからです。

    • 2.8兆パラメータという化け物サイズなのに、爆速かつ省エネで動く謎

    • 100万文字の超長文を読ませても、サーバーが悲鳴を上げないカラクリ

    • AIが「自分で画面を見てバグを直す」という、恐ろしい強化学習の裏側

     今回の技術公開によって、AIの進化は「ただ賢さを競うフェーズ」から、「どれだけ圧倒的な効率で、自律して動かせるか」という新時代へ突入しました。

     この記事では、公開されたばかりの技術論文とソースコードから判明した「Kimi K3のヤバすぎる中身」について、専門用語をできるだけ使わず、図解を交えながら世界一わかりやすく解説します。

     AIの未来がこれからどこへ向かうのか、一緒に覗いてみましょう!

    2. 【衝撃】総パラメータ数2.8兆!でも、動くのは「16個のエキスパート」だけ

     まず、公開されたソースコードから確定した、一番の「怪物スペック」がこちらです。

    Kimi K3の総パラメータ数は、なんと「2.8兆」。

     AIの「パラメータ数」とは、人間の脳でいう「神経細胞(シナプス)の数」のようなものです。現在、世界中で広く使われている標準的な高性能AIが数百億〜数千億規模ですから、2.8兆という数字がいかに規格外の巨体であるかが分かります。

     普通、これだけ脳みそが巨大になると、動かすために国家レベルの超巨大なデータセンターと、天文学的な電気代が必要になります。「賢いけれど、重すぎて実用化できない」――それがこれまでの超巨大AIの宿命でした。

     しかし、Kimi K3は違います。驚くほど「爆速」で、しかも「省エネ」で動くのです。
     コードから明らかになったそのカラクリが、「MoE(Mixture of Experts:混合専門家)」という仕組みの超進化系でした。

    896人の専門家が集まる「超巨大ギルド」

     Kimi K3の中身を例えるなら、「896人の超エリート専門家が集まった巨大な会社」です。

     従来のAIは、どんな簡単な質問に対しても「全社員(2.8兆パラメータ)」が総出で考えていました。これでは効率が悪すぎますよね。

     対してKimi K3は、ユーザーから質問が飛んでくると、AIの入り口にいる司令塔がこう判断します。
    「あ、この質問は『フロントエンドのプログラミング』と『バグの検知』に関する質問だな」

     そして、896人いる専門家の中から、その分野に最も特化した「16人(16エキスパート)」だけをピンポイントで呼び出すのです。

    • 全体サイズ:2.8兆パラメータ(896人の専門家)

    • 実際に動くサイズ:約1040億パラメータ(選ばれた16人 + 常時稼働する2人のまとめ役)

     つまり、脳みその総量は2.8兆という大天才なのに、私たちが使うときのエネルギーや計算コストは、その30分分の1以下(104Bクラス)のサイズにまでギュッと圧縮されているわけです。

    「仕事の押し付け合い」を解決した数理マジック

     これほど大量の専門家(896個)を抱えると、普通のAIではある大問題が発生します。それは「特定の人気な専門家だけに仕事が集中してしまい、他の専門家がニート化する(ボトルネック問題)」という現象です。

     これまでのAIは、「みんな平等に仕事をしてね」という無理なルール(補助損失)を課すことでこれを解決しようとしていましたが、そのせいで全体の賢さが落ちてしまうのが弱点でした。

     しかし、Kimi K3のソースコードからは、「Quantile Balancing(量子化バランシング)」という新しい数学的手法が発見されました。
    これは、ルールで縛るのではなく、仕事の交通整理を完全に自動化し、896個のエキスパートにノーストレスで均等に仕事をハブ(分配)する技術です。

     この技術のおかげで、Kimi K3は「2.8兆の頭脳」のポテンシャルを100%引き出しながら、涼しい顔をして爆速で回答を返してくることができるのです。

    3. 【発明その1】「2つのアテンション」のハイブリッド構造がヤバい

     Kimi K3のソースコードを解析したエンジニアたちが、最も「美しい!」と驚嘆したのが、このアテンション(注目)機構の設計です。

     AIに長文(数万文字の書類や、膨大なプログラムのコード)を読み込ませたとき、これまでのAIには致命的な弱点がありました。それは、「文章が長くなればなるほど、計算量が雪だるま式に膨れ上がり、パソコンやサーバーがフアツフアツにフリーズしてしまう」という問題です。

     Kimi K3は、なんと「100万トークン(本にすると数冊分、コードなら数万行)」の長文を一度に飲み込めます。しかも、処理コストは従来の最大6分の1。

     なぜそんな魔法のような真似ができるのか?
     コードから見つかったのは、性質の違う2つの脳回路を「3:1」の黄金比率で組み合わせるという、まったく新しい二刀流のハイブリッド構造でした。

    ① 普段のメモ役:「KDA(Kimi Delta Attention)」が69層

     Kimi K3の脳みその大半(69のレイヤー)を占めているのが、新開発された「KDA」という仕組みです。

     これを人間に例えるなら、「話を聞きながら、目まぐるしくノートを要約していく超優秀な書記」です。

     従来のAIは、1万文字目を読むときにも、1文字目からのすべての文字を愚直に見返して計算していました(フルアテンション)。これでは長文になるほど脳がパンクします。
     一方、KDAは「過去の流れをギュッと1冊のスマートなノート(動的メモリ)にまとめ、新しい話を聞くたびにそのノートを上書き更新していく」という手法(線形アテンション)をとっています。

     これにより、どれだけ長い文章を読ませても、計算の重さがずっと一定にキープされるようになり、爆速の処理スピードを実現しています。

    ② ここぞという時の辞書役:「Gated MLA」が24層

     「要約ノート(KDA)だけだと、細かい数字や、10万文字前に書かれたピンポイントの単語を忘れちゃうんじゃないの?」

     その通りです。要約はスピードが出ますが、細かい部分の記憶がボヤけるのが弱点でした。
     そこでKimi K3は、脳みその合間(24のレイヤー)に「Gated MLA」という、記憶のセーフティネットを挟み込みました。

     これは、「普段は閉じているけれど、超緻密な検索が必要になった瞬間だけパッと開く、過去ログの全検索システム」です。

     100万文字の砂漠の中から「たった1本の針(特定のデータ)」を探し出すような超高精度な作業のときだけ、このGated MLAが作動し、過去の全データをダイレクトにスキャンします。

    「スマートなノート」と「完璧な辞書」の二刀流

    • 普段の読み込み:KDA(ノート役)が圧倒的なスピードで処理

    • 重要な伏線の回収:Gated MLA(辞書役)が過去ログを完璧に検索

     この2つが精密に連携することで、Kimi K3は「スピードを一切落とさずに、100万文字の記憶を完璧に保持する」という、これまでのAIが到達できなかった領域に達したのです。

    4. 【発明その2】最初から「4ビット(MXFP4)」で最適化されて生まれてきた

     Kimi K3のソースコードが公開された際、世界中のインフラエンジニアが最も驚いたポイントがあります。

     それは、モデルのデータが「最初からMXFP4(4ビット)という超軽量な形式に最適化された状態で公開された」ということです。

     ここには、昨今の国際情勢をニュースで追っている方ならピンとくる、中国のAI企業が直面している「ある切実な舞台裏」と、それを乗り越えた技術者たちの執念が隠されています。

    「最先端の半導体が手に入らない」という壁

     現在、米国による輸出規制の影響で、中国のAI企業は最先端のAI用半導体(NVIDIAの最高峰チップなど)を大量に入手することが極めて難しくなっています。

     限られたハードウェア(少し世代の古いGPUや、性能が抑えられたチップ)で、どうやって米国の最新AI(GPT-5など)に打ち勝つ巨大なAIを動かすか?

     その答えが、データの徹底的なダイエット、つまり「量子化(りょうしか)」でした。

    従来の「後からダイエット」をやめた

     従来のAI開発では、まず「16ビット(FP16)」などの高画質・大容量な状態でAIを1から10まで学習させ、完成した後に「一般の人でも動かせるように、4ビットくらいにデータを削って軽くする」という手順を踏むのが一般的でした。

     しかし、この「後からダイエット(後段量子化)」をすると、せっかく賢かったAIの脳みそが削られ、言葉の意味を取り違えたり、計算能力がガクンと落ちてしまう(量子化ロス)という大きな弱点がありました。

     そこでMoonshot AIのチームは、常識を覆すアプローチを取りました。
    「だったら、最初から4ビット(MXFP4)の超軽量な脳みそとして、1から英才教育を施せばいいじゃないか」と考えたのです。

    容量は驚きの「1.4テラバイト」に

     最初から4ビットで動くように設計し、そのまま何兆文字ものデータを学習させる(量子化アウェアトレーニング)のは技術的に至難の業です。しかし、Kimi K3は見事にそれを成功させました。

    • 普通に作れば:データ容量が5〜6テラバイト以上になり、巨大なサーバーでも動かすのが一苦労。

    • 最初から4ビット(MXFP4):2.8兆パラメータという化け物サイズなのに、わずか「1.4テラバイト」に収まる。

     これは、超高画質な4K映画のデータを、画質(賢さ)を全く落とさずに、スマホでも再生できるくらい軽いファイルサイズに圧縮して撮影したようなものです。

     ハードウェアの制約という「絶望的な壁」を、独自の数学的・エンジニアリングの工夫(MXFP4形式の採用)によって「世界最高峰の効率を持つAI」という最大の武器に変えてしまった。

     このハングリー精神と技術力こそが、公開されたソースコードから読み解けるKimi K3の裏の主役なのです。

    5. 【発明その3】「自分で画面を見て、自分でバグを直す」超スパルタ教育

     Kimi K3が公開された直後、AIの性能を競うベンチマーク(Frontend Code Arenaなど)で、並み居る競合を抑えて世界1位に輝いたことが大きな話題になりました。

    「なぜ、これほどまでに実践的なプログラミングや、自律的な作業ができるのか?」
     その秘密が、テクニカルレポートに詳しく書かれていた「独自のスパルタ教育(強化学習プロセス)」です。

     これまでの多くのAIは、いわば「教科書を丸暗記した優等生」でした。ネット上の大量の文章を読み込み、「次の単語に何が来るか」を予測する訓練ばかりを受けていたのです。そのため、もっともらしい嘘(ハルシネーション)をついたり、実際にコードを動かすとエラーまみれだったりすることがよくありました。

    しかし、Kimi K3の育て方は根本から違います。

    AIの脳みそを「9つの人格」に分けて鍛える(MOPD)

     Kimi K3は、最初から一つの塊として育てられたわけではありません。
    「プログラミング専門」「AIエージェント(自律行動)専門」「一般論理思考専門」など、合計9つの領域ごとに、それぞれ最適な思考レベル(Reasoning Effort)を持たせた『9人の専門教師モデル』を個別に用意しました。

     それぞれの分野で極限まで鍛え上げた9つの頭脳を、最後に「多教師オンポリシー蒸留(Multi-Teacher On-Policy Distillation)」という特殊な技術で、ひとつの洗練された人格(Kimi K3)へと統合したのです。

    仮想空間(サンドボックス)で何万回も「実務」を経験

     さらに恐ろしいのは、統合された後の「実技訓練」です。
    Kimi K3には、文字を読むだけでなく、実際にパソコンを操作できる「AgentENV」という専用の仮想空間(サンドボックス環境)が与えられました。

     AIは、その空間の中で人間の新人エンジニアと同じように、次のような特訓を何万回も繰り返しました。

    1. 指示を受ける:「こういうWebサイトを作って」

    2. コードを書く:実際にプログラムのコードを打ち込む

    3. ブラウザを起動する:仮想空間の中で自分でWebブラウザを開き、作ったサイトを表示させる

    4. 画面を目で確認する:生成された画面のスクリーンショットを、AI自らの「目(マルチモーダル視覚機能)」で見て確認する

    5. バグを直す:「あ、ボタンの位置がズレているな」「エラー画面が出たな」と気づき、自分でソースコードを書き換えて修正する

     この「自分で作って、自分の目で確かめて、自分でバグを直す」というセルフ修正ループ(自己修正強化学習)を気が遠くなるほど繰り返した結果、Kimi K3は「動くコードを確実に書き、エラーが起きても自力でリカバリーできる」という、実務に即した圧倒的な強さを手に入れたのです。

     私たちがチャット画面で指示を出した裏側で、Kimi K3がまるで熟練の職人のようにテキパキと裏でツールを動かして正解にたどり着くのは、この過酷なスパルタ教育の賜物だったわけです。

    6. 【現実】個人でローカル起動できる?必要なモンスター環境

     ここまでKimi K3の革新的な中身を見てくると、こう思う方も多いはずです。

    「ソースコード(モデルウェイト)が無料公開されたってことは、自分のパソコンにダウンロードして、完全無料で動かせるの?」

     結論から言うと、ライセンス的には「YES」ですが、物理的には「ほぼ不可能」です。

     今回の公開で設定された「Modified MITライセンス」は非常に太っ腹で、商用利用も基本的には自由 [13]。規約の上では、誰でもこの大天才AIを自分のものにできます。しかし、実際に動かそうとした瞬間、一般人には絶対に超えられない「モンスター級のインフラの壁」が立ちはだかります。

    データのダイエットに成功しても、相手は「2.8兆」

     第4章で「データのダイエット(4ビット量子化)に成功し、容量がわずか1.4テラバイトに収まった」とお話ししました。

    「1.4TBなら、市販のポータブルSSD(2TB)に余裕で入るじゃん!」と思うかもしれません。
     確かに「保存」するだけなら可能です。しかし、AIを「動かす(推論する)」には、その1.4TBのデータを丸ごと「GPUの超高速なメモリ(VRAM)」の上に載せなければなりません。

     ここが、一般のパソコンとプロ用サーバーの決定的な違いです。

     私たちが普段使っている最新の高級ゲーミングPCに搭載されているグラフィックボード(例:NVIDIA GeForce RTX 4090)でも、メモリ容量はたったの「24GB」です。1.4TB(1400GB)のデータを載せるには、RTX 4090が約60枚も必要になってしまいます。

    必要なのは「国家予算レベル」の環境

     では、公開されたコード(vLLMなどの最新推論エンジン )のデータから逆算して、Kimi K3をまともにローカルで動かすには、一体どれほどの環境が必要なのでしょうか?

    • 最低ライン:NVIDIAのAI専用モンスターチップ「B200」が最低16基。

    • 理想ライン:最新の次世代データセンターシステム(NVIDIA B300やGB300 NVL72など)のフルノードが8基以上。

     サーバー1台の価格だけで数千万円から数億円、さらにそれを維持するための電気代や冷却システムも含めると、完全に「大企業や国家プロジェクト」の領域です。間違っても、個人の自宅のコンセントで動かせる代物ではありません。

    じゃあ、なぜ「一般公開」に価値があるのか?

    「結局、大企業しか使えないなら公開された意味なんてないのでは?」と思うかもしれません。しかし、これこそが今回の発表の最大のポイントです。

     今回の公開の真の価値は、「これまでGAFAやOpenAIのような超巨大テック企業しか持てなかった『世界最高峰のAIの脳みそ』を、セキュリティが最も厳しい大企業や研究機関が、自社の秘密基地(プライベートサーバー)に丸ごとコピーして独占できるようになった」という点にあります。

    • これまでの社内AI:外部のAPI(ChatGPTなど)にデータを送信せざるを得ず、機密漏洩のリスクが常にあった。

    • これからの社内AI:Kimi K3を自社サーバーに丸ごと閉じ込めることで、「一切データが外に漏れない、自社専用の世界最強AI」を構築できる。

     つまり、今回の一般公開は「個人のホビー用」としてではなく、「世界のビジネスやセキュリティの常識を塗り替えるためのオープン化」だったのです。

    7. まとめ:Kimi K3の登場で、AIの未来はどう変わる?

     ここまで、突如一般公開された「Kimi K3」のソースコードや技術論文から見えてきた、驚異のアーキテクチャについて解説してきました。

     最後に、今回判明したポイントをもう一度振り返ってみましょう。

    • MoE(混合専門家)の進化:2.8兆パラメータという巨体ながら、動くのは選ばれた「16個のエキスパート」だけという究極の省エネ。

    • 二刀流のアテンション:普段は「ノート(KDA)」で爆速処理し、必要な時だけ「辞書(Gated MLA)」を開くことで、100万文字の壁を突破。

    • 最初からの4ビット化:ハードウェア規制の逆境を跳ね返し、最初から「MXFP4」で英才教育を施すことで容量を1.4TBに圧縮。

    • 実践型のスパルタ教育:仮想空間で「自分で画面を見てバグを直す」訓練を重ね、最強の自律エージェントへ。

    AIの戦いは「賢さ」から「圧倒的な効率性」の時代へ

     Kimi K3の登場が私たちに教えてくれた最大のメッセージ。それは、AIの進化のトレンドが「ただ頭の良さ(パラメータ数の大きさ)を競うフェーズ」から、「いかに現実的なコストで、圧倒的な効率で動かせるか」というフェーズに完全にシフトしたということです。

     どんなに頭が良くても、動かすのに国家レベルの電気代がかかるAIは、私たちの日常やビジネスには浸透しません。ハードウェアの制約という厳しい現実を、独自の数学的アプローチと執念のエンジニアリングで乗り越えたKimi K3の構造は、これからのAI開発の「新しい教科書」になるはずです。

    私たちの未来はどう変わる?

    今回の「オープンウェイト(脳みその公開)」によって、これから世界中の企業や研究者が、Kimi K3の優れた構造をベースにした「派生AI」を次々と生み出してくるでしょう。

     数ヶ月後には、この技術を応用した「もっと軽くて、個人のパソコンでも動く超高性能なAI」や、「特定のビジネスに特化した最強の自律エージェント」が私たちの目の前に現れるかもしれません。

     オープンソース化された巨体の出現によって、AIの民主化と進化のスピードはさらに加速していきます。この刺激的な新時代を、これからもワクワクしながら追いかけていきましょう!

    関連記事:

    #AI #生成AI #LLM #KimiK3 #テクノロジー #最新技術 #プログラミング #エンジニア #ビジネス #オープンソース


     
     
    専門:CG 研究、制作 作品:つくば博「ザ・ユニバース」CGディレクター、花博「ユニバース2」スーパーバイザー 開発:LINKS-1、LINKS-2 著書:CGレイトレ物語 アスキー 論文 拡散レイトレーシングなど 趣味:写真,将棋、映画、サントラ 好きな歌手; 堀江美都子

    あなたへのおすすめ