AIは「分からない」と言えるか。正解を当てるより難しい推論の実力を試してみた。

電車の中で、ひとりだけ汗をかいている人を見かけた。周囲の人たちはそうでもない。さて、この人には何が起きているのだろう。

僕はこの小さな観察を、AIに少しずつ伝えてみた。

最初から自分が知っている情報をすべて渡すことはしない。相手がどう推論するかを見ながら、情報を段階的に追加していく。

試したかったのは、原因を一発で当てられるかどうかではない。情報が足りないときに、どこまで推測しどこから先を保留し新しい材料が加わったときに、それまでの考えを修正できるか。

そこにAIの実力が現れるのではないか、と考えたのである。もちろん、車内で見かけた他人の健康状態や事情を、外から観察しただけで判断することはできない。本人に確認できないことも多い。

今回の目的は誰かを診断することではなく、不完全な情報から人間やAIがどのように推論するか、その過程を考えることにある。

そして、この問題はAIだけに限らない。僕たちが日常の仕事を誰かに任せるときにも、ほとんど同じことが起きている。

正解を知っている問題と正解がまだ分からない問題

AIの能力を評価するとき、僕たちはつい正答率を気にする。試験問題を何問解けたか。プログラムを正しく書けたか。数学の問題に答えられたか。

もちろん、それらは重要な能力だ。

しかし、現実の仕事には、そもそも正解が分からない問題が大量に存在する。システムが突然停止した。商品の在庫数量が合わない。顧客から返事がない。あるプロジェクトだけ、なぜか予定どおりに進まない。

こうした問題では、最初から原因が明らかになっているわけではない。複数の可能性を考え、情報を集め、可能性を絞り込み、必要に応じて判断を修正する。

そこで求められるのは、単に知識を取り出す能力とは異なるものだ。

例えば、システム障害についてAIに相談したとする。「サーバーのメモリ不足が原因でしょう」そう答えられれば、いかにも経験豊富な技術者のように聞こえる。実際にメモリ不足が原因であることもあるだろう。

しかし、提示した情報だけでは、ネットワーク障害、設定変更、外部サービスの停止など、ほかの可能性も残っているかもしれない。

その段階で一つの原因を断定するAIは、正しく推論しているのではなく、もっともらしい物語を作っているだけという可能性がある。一方で、「情報が不足しているため分かりません」と繰り返すだけでも、仕事の役には立たない。

必要なのは、限られた情報から暫定的な仮説を立てながらその根拠と限界を同時に説明できる能力だ。

ひとつの観察からいくつの物語を作れるか

電車内で汗をかいている人の話に戻ろう。

僕が最初にAIへ与えた情報は、周囲の人たちと比べて、ある人だけが目立って汗をかいているというものだった。これだけなら、いくつもの説明が考えられる。

乗車直前まで急いで歩いていたのかもしれない。服装が車内の温度に合っていないのかもしれない。あるいは、本人の体質や、その時点での体調が関係しているのかもしれない。

どれも可能性としては排除できない。ここでAIが大量の原因を列挙したとしても、それだけで優れた推論とは言えない。

重要なのは、候補をいくつ思い付いたかではなく、それぞれの仮説がどの観察事実を説明でき何を説明できないのかを区別することだ。さらに、一歩進めるなら、どんな追加情報があれば仮説を絞り込めるのかを考える必要がある。

乗車前の行動が分かれば判断は変わるのか。周囲の環境が分かれば別の説明が強くなるのか。もちろん、他人の事情に無理に踏み込む必要はない。確認できないことは、確認できないまま残してよい。

むしろ僕は、そこを勝手に埋めようとしない姿勢を評価したい。

人間は、わずかな情報からでも驚くほど豊かな物語を作る。AIも同じような振る舞いをする。しかし、物語を作る能力と現実を正しく理解する能力は同じではない。

情報を追加したとき、本当の実力が現れる

次に、観察できた情報を一つ追加する。

例えば、本人の意識がはっきりしていることや、その後の動作など、最初には伝えなかった材料を与える。AIは新しい情報を受け取り、それまでの説明を修正することになる。

このとき、振る舞いは大きく三つに分かれる。

一つ目は、最初の回答に固執することだ。新しい情報が与えられても、最初に選んだ原因に都合よく当てはめ、結論を守ろうとする。

二つ目は、新しい情報が入るたびに、別の原因へ飛び付くことだ。先ほどまでAと言っていたのに、次はBだと断定する。さらに情報が入ると、今度はCだと言い切る。

これは柔軟な推論というより、最後に与えられた情報に過剰反応している状態に近い。

三つ目は、それまでの仮説を維持しながら、新しい情報によって評価を更新することだ。Aの可能性は少し下がった。Bの説明力は高まった。ただしCもまだ排除できない。

僕が評価するのは、この三つ目である。最初の見立てを変更することは、間違いを認める敗北ではない。むしろ、新しい事実が加わったのに何も考えが変わらない方が不自然な場合もある。

この考え方は、統計学でいうベイズ推論にも通じる。ある仮説が正しいと考える度合いを、新しく得られた証拠に基づいて更新していく考え方だ。

ただし、ここには注意が必要だ。

AIが「可能性は70％です」と答えたからといって、その数字が統計的に裏付けられているとは限らない。

70％と答えた事例が本当に10回中7回程度正しいのか。そこまで確かめなければ、数字は単なる自己申告である。曖昧な断定に小数点を付けただけでは、推論の品質は上がらない。

「自信があります」と「正しい可能性が高い」は違う

AIの不確実性は、研究の世界でも重要な課題になっている。

2025年に公開された研究論文『Revisiting Uncertainty Estimation and Calibration of Large Language Models』では、多数の大規模言語モデルを対象に、不確実性の推定と正答率との関係が検討された。(Revisiting Uncertainty Estimation and Calibration of Large Language Models（2025年）)

ここで重要なのは、問題を正しく解く能力が高いことと、自分の回答がどれほど確かかを適切に示せることは、別の能力だという点である。

AIが自信満々に答えたからといって、正しいとは限らない。反対に、慎重な表現を使ったからといって、必ずしも適切に不確実性を評価しているわけでもない。

「分からない」と言えることが重要なのではない。

分からない理由を説明できること、何が分かれば判断が変わるかを示せること、そして確かな場合には必要以上に判断を避けないことが重要なのだ。

米国のNIST（国立標準技術研究所）が公表しているAIリスクマネジメントフレームワークも、AIを単なる性能だけでなく、信頼性やリスクを含めて捉えるための枠組みを示している。(NIST AI Risk Management Framework)

僕が行った電車内の観察実験は、こうした学術研究や専門的な評価手法を再現したものではない。

ただ、正解だけを評価するのではなく、誤りや不確実性をどう扱うかを見るという方向性は共通している。

僕ならAIを五つの観点で採点する

では、現実の仕事にAIを使うとき、何を見ればよいのだろう。僕なら、少なくとも五つの観点を設けたい。

第一に、事実と推測を区別できるか?

観察された事実を勝手に補ったり、存在しない情報を前提に推論したりしないこと。自分が推測した部分を、推測であると明示できることだ。

第二に、複数の仮説を維持できるか?

最初に思い付いた説明だけを追いかけず、現実的な代替仮説を残しておけるか。

第三に、新しい情報によって判断を更新できるか?

結論が変わること自体を問題にするのではなく、なぜ変わったのかを説明できることが重要だ。

第四に、次に確認すべき情報を選べるか?

何でもかんでも追加質問すればよいわけではない。最も少ない確認で、判断が大きく前進する情報を選べるかどうか。

第五に、判断を保留する条件を説明できるか?

今は判断できないとしても、何が分かれば判断可能になるのか。あるいは、情報を集めてもなお判断が難しいのか。

この五つについて、それぞれ0点から2点で採点すれば、10点満点の簡易評価表を作ることができる。もちろん、これは僕が実務での利用を想定して考えた評価方法であり、学術的に検証された標準尺度ではない。

実際に使うなら、複数の題材を用意し、同じ条件で比較する必要がある。人間側の採点基準も先に決めておかなければ、評価そのものが主観に左右されてしまう。

それでも、最終的な正解だけを眺めるより、はるかに多くのことが見えてくるはずだ。

質問の上手さも推論能力の一部である

この話を実際の仕事へ置き換えると、さらに面白いことが分かる。

例えば、倉庫で在庫数量が合わなくなったとする。AIに状況を説明したところ、「出荷記録の登録漏れが原因ではないでしょうか」と返ってきた。

確かに、その可能性はある。しかし、それだけを調べるように指示されたらどうだろう。原因を一つに決め付けた調査が始まり、本当の問題を見逃すかもしれない。

在庫差異には、入庫時の計上ミス、拠点間移動の記録漏れ、返品処理、商品の識別間違い、棚卸基準時点の不一致など、いくつもの原因が考えられる。

だからといって、すべてを同時に調査するのは効率が悪い。

ここで重要になるのが、最も少ない確認で最も多くの可能性を切り分けられる質問は何かという発想だ。これは単に知識が豊富かどうかとは異なる。経験豊富な人は、必ずしもすぐに答えを出すわけではない。

「それはいつから起きているのか」「特定の商品だけなのか」「直近で処理方法が変わっていないか」こうした質問によって、調査すべき範囲を一気に狭めていく。

優れたAIにも、同じ能力を期待したいのである。

AIを評価することと人に仕事を任せることは似ている

ここまで考えると、僕にはもう一つ気になることがある。それは、AIを使いこなす能力と、人間に仕事を任せる能力が、驚くほど似ているということだ。

例えば、外注先に仕事を依頼するときに必要な情報を十分に渡さず、判断基準も明示せず、「専門家なのだから、あとはうまくやってほしい」と依頼する。

これでは、受託側は推測するしかない。そして、推測が外れたときに、「そんなつもりではなかった」と発注側が怒る。

しかし、その失敗は本当に受託側だけの責任なのだろうか。

以前、「忙しいから外注したい」という会社は、たぶん外注しても忙しい。という記事を書いた。

外注すれば作業の一部は移せるかもしれない。しかし、業務の目的、判断条件、責任分界が整理されていなければ、確認や手戻りの負担は残り続ける。

AIに仕事を任せる場合も同じである。AIがどれほど優秀であっても、依頼者が重要な前提を渡さなければ、答えの品質には限界がある。

それだけではない。依頼者自身が成果物の良し悪しを判断できなければ、AIが正しいことを言っているのか、もっともらしく間違っているのかを区別することもできない。

任せる能力とは、自分が作業できるかどうかだけでなく相手の判断を評価できる能力でもある。

ただし、だからといって、すべてを自分で実行できなければならないわけではない。目的を定義し、判断基準を設定し、重要な確認点を見つけ、必要なときに専門家へ戻せる。

そこまでできれば、実作業を相手に委ねながら、結果に対する責任を果たすことは可能だろう。

AIは仕事を代わってくれる。しかし、仕事を任せる側の能力まで、自動的に引き上げてくれるわけではない。

AIに任せてよい範囲をどう決めるか

僕がAIへ情報を段階的に与えたのは、単に意地悪をしたかったからではない。

最初からすべての材料を渡せば、整理された回答を作る能力は確認できる。しかし、それだけでは、不完全な状況でどこまで判断を任せてよいか分からない。

現実の仕事では、十分な情報がそろっていることの方が珍しい。

相手が何を知っていて、何を知らないのか。知らないことについて、どれほど慎重に判断できるのか。新しい情報が入ったとき、どこまで柔軟に考えを変えられるのか。

そうした振る舞いを見ながら、僕たちは委任の範囲を決めている。

AIの場合も同じだと思う。情報を整理するところまでは任せられる。しかし、外部への送信は人間が確認する。

複数の原因を比較するところまでは任せられる。しかし、システムの設定を変更する前には承認を必要とする。定型的な判断は任せられる。しかし、例外的な案件や重大な影響がある案件は保留する。

こうした境界線を、AIの性能と業務上のリスクに応じて設定する必要がある。そして、その境界線を引けるのは、AI自身ではなく、仕事の責任を持つ人間である。

「分からない」は思考の終わりではない

結局のところ、僕はAIに「分からない」と言ってほしいわけではない。何でも断定するAIが困るのと同じように、何でも判断を保留するAIも困る。

重要なのは、分からないという状態を、次の思考へつなげられるかどうかだ。

分からない
➡では、何が分からないのか？
➡何が分かれば判断できるのか？
➡どの情報を先に確かめればよいのか？
➡確認するための費用や時間は、判断する価値に見合っているのか？

そこまで考えられて初めて、「分からない」は有益な回答になる。

思えば、これは人間同士でもまったく同じである。優秀な人は、必ずしも最初から正しい答えを知っているわけではない。自分の知識の限界を理解し、必要な情報を集め、判断を更新できる人だ。

僕がAIに求めるものも、それに近い。正解を知っている問題を解く力は、もちろん必要だ。

しかし、正解がまだ分からない世界で、間違う可能性を管理しながら前へ進めること。それこそが、これからAIに仕事を任せるうえで最も重要な能力の一つなのではないだろうか？

思考編集室について

僕は日常の小さな違和感から仮説を立て、調べ、検証し、考え直すことを楽しんでいる。

今回のAI評価も、その一つだ。

思考編集室では、完成した答えだけでなく、そこへ至る判断の過程や、途中で捨てた仮説、検証の方法なども掘り下げていきたい。

AIの使い方、人への仕事の任せ方、組織の仕組み、日常の観察。一見ばらばらに見える話題の根底には、同じ問いがある。「何を根拠に、そう判断したのか」

正解を一つ増やすより、考えることそのものを楽しみたい人へ。

思考編集室の案内・参加ページはこちら