「答え」を出すAIはもう古い。科学の未来は「良い問い」を立てるAIが拓く
科学者がAIに「効果的な抗生物質を設計せよ」と指示したとします。AIは与えられた評価指標（スコア）を完璧に満たす化合物を生成しました。しかし、専門家がその結果を見ると、それは「石鹸のような」物質で、医薬品としては全く実用性がありませんでした。
これは「報酬ハッキング」と呼ばれる現象の一例です。AIは与えられた目的（ゴール）を最大化することに長けていますが、その目的自体が不完全だと、予測スコアは高いものの現実世界では役に立たない「答え」を見つけてしまうのです。この失敗から、AIは自ら学習します。「この化合物は石鹸によく見られる。医薬品らしくないかもしれない。医薬品らしさ（QEDスコア）も同時に最適化すべきだ」と。
この経験こそが、科学的発見のボトルネックが「答え」を見つけることではなく、正しい「問い（目的）」を設定することにあるという根源的な課題を浮き彫りにしました。この課題を解決するために開発されたのが、新しいAIフレームワーク「SAGA（Scientific Autonomous Goal-evolving Agent）」です。SAGAは、単に答えを出すだけでなく、AI自身が目的を「進化」させることで、科学的発見のプロセスそのものを革命的に変えようとしています。本記事では、この常識を覆すAIの驚くべき4つのポイントを解説します。
驚きのポイント1：本当のボトルネックは「答え」ではなく「問い」にあった
従来のAIによる科学的発見は、科学者が事前に設定した「固定された目的関数」という名の「問い」に依存していました。しかし、「薬の有効性を最大化せよ」といったゴールは、現実世界の複雑な要件を捉えきれない不完全な代理（プロキシ）に過ぎません。
不完全な問いを立てれば、当然、不完全な答えが返ってきます。その典型的な症状が「報酬ハッキング」です。AIは、モデルと現実の僅かなズレを悪用し、予測スコアだけを最大化しようとします。その結果、専門家が見ればわかるような、重要な実用性を見落とした解決策を生み出してしまうのです。
目的を進化させるプロセスがなければ、AIによる発見は『報酬ハッキング』という罠に陥ります。AIはモデルと現実の僅かなズレを突き、予測スコアだけを最大化してしまうのです。その結果、専門家であればすぐに見抜けるような、現実的に重要な観点が抜け落ちた解決策が生み出されてしまいます。
科学的発見の真の難しさは、答えを出すこと以上に、何を最適化すべきか、つまり「より良い問い」を立て続けることにあったのです。
ポイント2：AI自身が目的を「進化」させる二層構造アーキテクチャ
では、SAGAはどのようにして目的、すなわち「問い」を進化させるのでしょうか。その核心は、人間の思考プロセスにも似た「二層構造（bi-level architecture）」にあります。
内側のループ（Inner Loop）: 現在設定されている問いに対して、最適な解決策（答え）を高速で探索します。これは、問題を解くことに集中する「速い思考」に例えられます。
外側のループ（Outer Loop）: 内側のループが生み出した答えを分析し、「この答えは本当にゴールに近づいているか？」「私の立てた前回の問いは、果たして良い問いだったのか？次はどうすればもっと良い問いを立てられるだろうか？」と自問します。そして、次の目的をより良くするために計画・修正を行うのです。これは、戦略を練り直す「遅い思考」に相当します。
この二層構造により、SAGAは単なる最適化ツールではなく、目的そのものを発見し、改良していくプロセスを自動化します。AIが、与えられた問いに答えるだけでなく、自ら問いを立て直す能力を獲得した瞬間です。
ポイント3：すでに新薬や新素材の設計で成果を上げている
SAGAは理論上のコンセプトにとどまらず、すでに複数の科学分野で具体的な成果を上げています。
抗生物質の設計: SAGAは、薬剤耐性菌である肺炎桿菌（Klebsiella pneumoniae）に対する新しい抗生物質の設計に挑みました。ここで比較対象となる従来手法「AlphaEvolve」は、抗菌活性スコアこそ高かったものの、医薬品としての品質は「壊滅的」で、生成された化合物群はほぼ全てが「医薬品らしさの閾値」を下回りました。対照的にSAGAは、抗菌活性と医薬品らしさの両方を満たす「スイートスポット」を発見。探索の途中で目的を動的に進化させることで、従来手法が陥りがちな失敗を回避し、有望な候補物質の発見に成功しました。
無機材料の設計: SAGAは、超硬材料や永久磁石といった新素材の設計にも応用されています。このタスクでは、硬度、安定性、供給リスクといった複数の目的の間に複雑なトレードオフが存在します。SAGAはこれらの関係性を考慮しながら目的を反復的に改良し、専門家が求める特性を満たす新しい材料を発見しました。その成果は単なる予測ではなく、材料科学の厳格な基準である密度汎関数理論（DFT）計算によって検証されています。特に永久磁石の設計では、最先端モデルのMatterGenが11種類の新規構造を発見したのに対し、SAGAはそれを上回る15種類もの有望な構造を発見しました。
その応用範囲は広く、特定の遺伝子機能を制御するDNA配列の設計や、化学プラントの製造プロセス最適化といった分野でも、すでにSAGAはその能力を証明しています。
ポイント4：科学者との連携も可能。「コパイロット」から「完全自動操縦」まで
SAGAは科学者を代替するのではなく、その能力を拡張するパートナーとして設計されています。そのため、科学者の専門知識や好みに合わせて、人間との関与レベルを調整できる3つの動作モードを備えています。
コパイロットモード: 科学者とAIが、まるでホワイトボードを前にした二人の研究者のように並んで議論し、共同で次の研究方針、すなわち「次なる問い」を決定します。
セミパイロットモード: 科学者がプロジェクトリーダーのように振る舞い、AIの分析結果や進捗をレビューして、次の発見フェーズを導くための重要なフィードバックを提供します。
オートパイロットモード: 科学者が壮大な挑戦課題を設定した後は、AIを信頼し、仮説の形成からその改良まで、発見プロセス全体を完全に自律的に実行させます。AIは最も有望な結果だけを携えて報告に戻ってきます。
この柔軟性により、SAGAは、研究の初期段階で人間の直感が重要になる場面から、定型的な探索を大規模に自動化したい場面まで、あらゆるニーズに対応できる強力なパートナーとして機能するのです。
結論：AIが「より良い問い」を立て始める未来
SAGAの核心的な価値は、静的な目的に対して最適解を探す従来のAIから、「目的自体を動的に進化させる」というパラダイムシフトを実現した点にあります。これにより、AIは単なる「答えを出す機械」から、私たちと共に「より良い問いを立てるパートナー」へと進化を遂げようとしています。
これまで人間の創造性の領域だと考えられてきた「何を問うべきか」というプロセスにAIが関与し始めることで、科学的発見のスピードと質は劇的に向上する可能性があります。
もしAIが、私たち人間よりも優れた問いを立てられるようになったら、科学のフロンティアはどこまで広がるのでしょうか？SAGAの登場は、そんな未来の始まりを告げているのかもしれません。
解説動画：
参考資料：
その他記事、コラム、書籍はこちら↓
