AIが迷ったら、誰が決めるのか――IPAの新ハンドブックが問い直す「人間の仕事」
生成AIを仕事に入れた瞬間、たいていの組織は二つの気分のあいだで揺れる。ひとつは、やっと面倒な仕事から解放されるという期待。もうひとつは、こんなものに任せて本当に大丈夫なのかという不安だ。
この二つは対立しているようで、実は同じ場所から生まれている。私たちがAIに何を任せ、どこで止め、最後に誰が引き受けるのかを、まだ十分に決めていないからである。
2026年11月5日、情報処理推進機構（IPA）は「AI時代の要求管理ハンドブック」を公表した。いかにも技術者向けに聞こえる題名だが、そこで扱われているのは仕様書の書き方だけではない。組織が何を実現したいのかを出発点にし、それを業務、データ、システム、ルール、評価、運用へつなげ、変化に応じて管理し続けるという話である。
AIは正解を出す機械ではない。もっともらしい候補を、速く、大量に出す機械である。だからAIを導入するとは、判断を機械に渡すことではなく、判断の前後にある仕事を設計し直すことにほかならない。
「便利な回答」が責任を消していくとき
AIは、答えより先に「決め方」を変える
これまでの業務システムは、入力と処理と出力の関係をかなり明確に決められた。給与計算であればルールを定め、数字を入れ、同じ計算を繰り返せばよい。もちろん例外はあるが、基本的には正しい手順を固定することができる。
生成AIは違う。利用者の問い方、参照する資料、モデルの更新、文脈の置き方によって、同じ依頼でも少しずつ別の答えを返す。これは欠点だけではない。曖昧な文章の下書き、情報の分類、複数案の比較、発想の補助といった場面では、その柔らかさが役に立つ。しかし、柔らかい出力を硬い決定にそのまま接続したとき、問題が起きる。
IPAの新ハンドブックは、要求管理を開発の最初だけに置かず、組織が実現したい価値と、評価・運用・改善までを結ぶ継続的な活動として位置づけている。これはAI時代にはとても重要な見方である。導入時に「何ができるか」だけを問うと、デモ画面の華やかさに判断が引っ張られる。「何を実現し、その結果を誰が評価し、誤ったときにどう戻すか」を問えば、初めて仕事の設計になる。
ここで必要なのは、AIに「自信がないときは人に回せ」と命じるだけではない。そもそも何をもって自信がないと見なすのか、どの種類の案件を人へ渡すのか、人はどの資料を見て判断するのか、そして判断後の修正を次の運用にどう返すのか。その一連が、要求であり、後から付ける安全装置ではない。
たとえば自治体の問い合わせ対応を考える。AIが回答案を作ること自体は難しくない。しかし、制度の解釈に複数の余地がある場合、古い情報が混じる場合、個別事情によって結論が変わる場合には、回答案だけでは市民に説明できない。必要なのは「AIが答えた」という事実ではなく、根拠となる規程、適用範囲、確認者、更新日が追えることだ。
つまり、AI導入の失敗は、AIが誤ることから始まるのではない。誤りを前提にした説明可能な受け渡しを設計しなかったことから始まる。
人が残るのではなく、責任が戻ってくる
「人間が最終確認すればよい」という言い方には、少し危ういところがある。形式上の確認者を一人置けば、責任を果たした気になれるからだ。大量のAI出力に最後の判子だけを押す仕事は、人間による監督ではない。むしろ、機械の速度に人間の責任を追いつかせられない状態である。
デジタル庁が公表した行政向け生成AIガイドライン第2.0版は、技術の進展や利用場面の拡大を踏まえ、組織・人・技術という三つの観点から利活用を整理している。ここで注目すべきなのは、AIの性能だけでなく、体制、リテラシー、調達・契約までを問題にしている点だ。人間の確認は、最後の画面を読む行為ではなく、権限と能力と時間を与えられた組織的な役割でなければならない。
デジタル庁「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン（第2.0版）」
ここで少し逆説的なことを言いたい。AIが普及するほど、人間の仕事は「判断」へ集約されるのではない。判断を支える前提、すなわち目的の設定、例外の定義、根拠の保存、異議申立ての窓口、失敗からの学習へと分散していく。
AIに任せたあとで人間が忙しくなるのは、AIが役に立たないからではない。これまで黙って人が引き受けていた曖昧さが、AIによって可視化されるからである。「前例に合わせておいて」「常識で判断して」「うまくやって」。こういう言葉で動いてきた仕事は、AIに渡すと急に立ち止まる。そこには暗黙の判断があったことが、初めて見えてくる。
おすすめ記事
数字や効率が決めきれない領域で、組織を動かす態度とは何かを考える視点になる。
監督とは、AIを疑うことではない
「人間中心」は、人間に丸投げすることではない
AIの議論では、人間中心という言葉がよく使われる。だが、人間中心を「最後は人が決める」という標語に縮めると、かえって人間を孤立させてしまう。判断する人が、どの情報を見られるのか。拒否や保留を選べるのか。異常に気づいたとき停止できるのか。決定の理由を後から説明できるのか。これらがなければ、人間は中心ではなく、AIの出力を追認する端末になる。
OECDのAI原則は、信頼できるAIのために、人間の主体性と監督を可能にする仕組み・保護措置を求めている。ここでの監督は、開発者が一度テストして終える作業ではない。意図しない使われ方、誤用、想定外の結果を含め、運用の中でリスクを扱う考え方である。
NISTのAIリスク管理枠組みも、AIの監督における人間の役割と責任を明確に分け、組織全体でガバナンスを続けることを重視する。重要なのは、人間が常に介入すれば安全だと言っているわけではない点だ。動画圧縮のように、個別の人間監督を必ずしも必要としない用途もある。だからこそ、用途の重大性に応じて、誰がどこまで関わるべきかを定める必要がある。
この区別は大切である。社員食堂の献立案と、採用選考、融資審査、医療の優先順位、子どもの進路に関する助言は同じではない。誤ってもすぐ直せる提案と、本人の機会や尊厳を傷つけうる決定を、同じ「AI活用」という箱に入れてはならない。
欧州連合のAI法でも、高リスクAIには運用中の人間による監督を可能にする設計が求められている。担当者は、システムの能力と限界を理解し、出力を正しく解釈し、必要なら介入・停止できなければならない。これはAIに人が一人付けばよいという話ではない。止める権限を持つ人に、止めるための情報を渡すという設計の問題である。
AI Act Service Desk「Article 14: Human oversight」
「確認する人」を疲弊させない設計
現場では、AI導入によって確認作業が増えたという声が必ず出る。これは単純に抵抗勢力の愚痴ではない。AIが一分で百件の案を出すとき、人間の確認能力は一分で百倍にはならない。しかも、AIの文章は流暢で、見た目には整っている。だから人は細部を見落としやすくなる。便利さは、監督のコストを隠す。
確認者を疲弊させないためには、AIに出力だけでなく、判断材料を整えさせる必要がある。参照元を示す。不確実な箇所を印づける。複数案の違いを説明する。例外に当たる可能性を通知する。人が修正した理由を記録し、次の運用改善へ返す。AIの仕事を「文章を作ること」から「人が決められる状態を作ること」へ変えるのである。
デジタル庁のガバメントAI「源内」の利用案内も、AIの出力をたたき台として扱い、最終的な確認と判断を利用者自身が行うよう明示している。機密性の判断に迷う情報は、入力前に担当部門へ確認するという注意も含まれる。ここには、AIを使う人の注意力だけに依存しない発想がある。迷ったときに相談する先を先に置くのである。
デジタル庁「ガバメントAI 源内 エージェントチャット中級編」
これは企業にも学校にも通じる。問題は「AIを使ってよいか」ではない。「どんな不確実性が出たら、誰が、どの情報で、いつ決めるか」を事前に決めているかである。
おすすめ記事
判断が重くなるほど、責任を誰か一人に押しつけない構造を考える手がかりになる。
AIの時代に、仕事はどこへ移るのか
学校は「答えの利用法」を教える場所になる
この問題は、企業の会議室だけの話ではない。学校で生成AIをどう扱うかは、これからの社会の判断力をどう育てるかという問いである。
文部科学省は学校での生成AI利用について、教職員が仕組みや特徴を理解し、生成内容の適切性を判断できる範囲内で活用することを前提としている。児童生徒についても、AIにすべてを委ねず、自らの判断や考えが重要であることを理解させる方向が示されている。
これは「AIで宿題をしてはいけない」という狭い話ではない。むしろ、AIの回答を読み、その根拠を問い、別の可能性を考え、自分の言葉で判断を作り直す力をどう育てるかという話だ。正答を早く出す訓練だけでは、AIの流暢さに負けてしまう。必要なのは、答えを受け取ったあとに立ち止まる習慣である。
文部科学省の情報モラル教材も、生成された内容を鵜呑みにせず、自分の考えで適切に判断しながら使うことを促している。ここで言う「自分の考え」は、思いつきを強く言い張ることではない。情報の出所を確かめ、前提を比べ、異なる立場への影響を想像し、必要なら保留する力である。
パイロット校の取組でも、AIには自我や人格がなく、全てを委ねずに自己の判断や考えを大切にすることが確認されている。子どもに求めるべきなのは、AIを恐れる態度ではない。AIが作った答えに対して、「なぜそう言えるのか」「何が抜けているのか」「誰に不利になりうるのか」を問える態度である。
文部科学省 リーディングDXスクール「生成AIパイロット校」
速さを競う組織ほど、遅く考える場所が要る
AI導入はしばしば生産性の言葉で始まる。時間を短縮し、人手を減らし、判断を速くする。その目的自体は否定できない。人が消耗する単純作業を減らすことには、十分な価値がある。
ただし、速くなった分だけ、どこかに遅く考える場所が必要になる。新しい制度を決める前。人事評価に使う前。顧客に回答を返す前。子どもの学習を評価する前。AIが出した結論を採用する前。そこでは、目的と影響を言葉にし、異論を置き、例外を考えなければならない。
IPAがAI事業者ガイドラインを、変化に応じて更新を検討する「Living Document」として扱っているのも象徴的である。AIの利用環境は固定できない。だから一度完璧な規程を作るより、運用の失敗を隠さず、ルールを更新できる組織のほうが強い。
個人情報の扱いも、こうした設計の一部である。個人情報保護委員会は、生成AIに個人データを含むプロンプトを入力する際、利用目的や学習利用の有無を十分に確認するよう注意を促している。便利だから貼り付ける、時間がないから要約させる、という小さな近道が、本人の権利と組織の信頼を傷つけることがある。
個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
AIの導入を成功させる組織は、AIを万能の部下として扱わない。AIの出力を受け取る側の人間にも、根拠を確かめる時間、異議を言う権限、判断を記録する仕組みを与える。そこまで含めて初めて、AIは人を支える道具になる。
私たちはAIに仕事を奪われるのではない。自分たちがこれまで曖昧なままにしてきた「決める」という仕事の中身を、問い返されるのである。
便利さの先に必要なのは、AIを止めるための勇気だけではない。迷ったときに立ち止まり、根拠を見直し、決定を引き受ける人間の居場所である。
「任せない領域」を先に書く
AI活用の計画書には、できることが並びやすい。要約できる。分類できる。下書きを作れる。問い合わせに答えられる。だが同じくらい具体的に、「AIだけでは決めないこと」を書くべきである。採否、処分、診断、支給、不利益な扱い、対外的な確定回答。こうした語を並べると慎重すぎるように見えるかもしれない。しかし、任せない線を先に引くことは、AIを使わないための宣言ではない。AIが安心して使える領域を広げるための土台である。
線引きは固定の一覧で終わらない。同じ採用支援でも、候補者への面接日程の提案と、合否の自動決定では重さが違う。同じ医療でも、予約の空き枠案内と治療方針の確定では違う。同じ教育でも、教材のたたき台と成績評価では違う。影響を受ける人が異議を申し立てられるか、誤りを戻せるか、遅れが許されるか、根拠を説明できるか。こうした問いを案件ごとに置く必要がある。
そして、この線引きを現場だけに背負わせないことも重要だ。担当者が「危ないと思ったので止めました」と言える組織でなければ、現場は速度の圧力に負ける。停止は失敗ではなく、設計どおりに監督が働いた結果だと扱う。そうした文化がなければ、どれほど立派なガイドラインも、現場では黙って追認するための紙になる。
根拠を表示するAIは、少し遅くても強い
AIの出力を使う場面で、最も価値があるのは流暢な結論ではない。結論の根拠がどこにあり、どの部分が推測で、何を参照しなかったのかが分かることである。人間の判断も完全ではない。だからこそ、AIだけに完璧さを要求するのではなく、人とAIの双方について検証可能性を上げるべきだ。
たとえば社内規程の問い合わせにAIを使うなら、回答文の下に、参照した規程の条文、改定日、判断が分かれる箇所、担当部署への確認が必要な条件を出せるようにする。人は答えを読む前に、答えの強さを測れるようになる。逆に根拠を出せないAIは、判断を代替する道具ではなく、発想を広げる下書き役にとどめる。その使い分けが重要である。
ここで言う説明は、AIの内部計算をすべて人に説明することではない。利用者や影響を受ける人が、なぜその扱いを受けたのかを理解し、必要なら異議を出せる程度に、業務の根拠を見えるようにすることである。ブラックボックスであることと、説明責任を放棄することは同じではない。制度の側に説明の筋道を用意できるかどうかが問われている。
失敗の記録は、AIを育てる前に組織を育てる
AIの誤りを見つけたとき、多くの組織はその場で直して終わらせがちである。だが、どんな入力で、何が起き、誰が気づき、どう訂正し、その結果をどこへ反映したかを残さなければ、同じ失敗は別の場所で繰り返される。AIの性能改善に使うためだけではない。組織が自分の判断基準を学び直すために、失敗の記録が要る。
特に危険なのは、成功例だけが共有されることだ。導入説明会では、作業時間が半分になった、文書がすぐできた、問い合わせが減ったという成果が語られる。しかし、AIの案を採用したあとに修正が必要になった例、担当者が不安を覚えたが相談先がなかった例、入力してはいけない情報を入れかけた例にも、同じくらい価値がある。失敗事例を罰ではなく設計改善の材料として扱えるかで、AIの利用は成熟する。
この意味で、AI時代の組織に必要なのは「正解を出す人」より、「曖昧な事実を記録して次の判断へ渡せる人」である。記録は地味だが、後から説明を求められたとき、最も強い資産になる。誰かを責めるためのログではなく、よりよい判断を再現するための記憶として残すべきだ。
私たち自身も、便利な答えを求めている
AIの危うさを語るとき、企業や行政だけを責めるのは簡単である。しかし、利用者である私たちもまた、速く断定的な答えを求めている。検索結果を読み比べるより、要点だけを教えてほしい。複数の可能性より、結論を一つにしてほしい。手続の事情より、今すぐ可否を知りたい。その期待が、AIに「迷わず答えろ」と迫る。
だが、社会には急いで一つに決めないほうがよい問題がある。事実関係が足りない問題、当事者の利害がぶつかる問題、取り返しのつかない問題。そこでは、保留は無能の証拠ではない。追加の情報を待ち、関係者の声を聞き、責任の置き場所を確かめるための時間である。
AIが広げるのは、即答の能力だけではない。本来なら見過ごしていた選択肢を一度に目の前へ並べる能力でもある。そのとき人間に残る仕事は、最短の答えを選ぶことではない。何を急ぎ、何を急がないのかを決めることだろう。便利な答えを受け取る私たち自身が、答えの外側にある条件へ目を向けられるか。その態度が、AIを使う社会の質を決める。
仕組みは、信頼を自動では生まない
AIを導入すれば、判断が客観的になるという期待もある。人間の好き嫌いや疲れを減らせる、同じ基準を適用できる、記録が残る。確かにそうした可能性はある。しかし、AIが参照する過去のデータや、目的を定めた人間の価値判断まで消えるわけではない。何を成功と数え、何を誤差として許し、誰の不利益を重く見るかは、最初から社会的な選択である。
だからAIの公平性は、モデルの性能表だけで決まらない。利用する前に当事者へ何を知らせるのか。問題が起きたときに説明を受けられるのか。人による見直しを求められるのか。変更したルールをいつ公開するのか。技術の外側にある手続が、信頼の大半を作る。
ここには、AIを信じるか信じないかという二択より、はるかに実務的な問いがある。私たちは、どの種類の判断について、どの程度の根拠と異議申立てを求めるのか。AIが便利になるほど、その答えを社会の側が言葉にしなければならない。
導入の最初に置くべき四つの問い
大げさな制度改革をすぐに始められない組織でも、導入前に四つだけは問い直せる。第一に、そのAIは誰のどんな負担を軽くするのか。第二に、誤ったとき最も影響を受けるのは誰か。第三に、その人は結果を知り、異議を言えるか。第四に、判断を止めたり戻したりする権限は誰にあるか。
この四つに具体的に答えられなければ、導入を急ぐ理由はない。逆に答えられるなら、AIは単なる流行語ではなく、仕事の質を変える手段になりうる。時間を空けるためにAIを使い、その時間を人間にしかできない対話、検討、ケアへ戻す。そこにこそ、導入の意味がある。
AIは、社会の意思決定を魔法のように正しくしてはくれない。だが、私たちが誰に何を任せ、どんな根拠で決めるのかを、以前よりはっきり見せてくれる。その問いから逃げないことが、技術を恐れず、技術にも支配されないための最初の条件である。
ここで忘れたくないのは、AIに慎重であることと、AIを拒むことは別だという点である。目的と限界を明らかにし、人が決め直せる余地を残すなら、AIは忙しさの中で見落としていた論点を照らす補助線になる。だが、その余地を削って速度だけを求めれば、AIは判断を軽くするのではなく、責任の所在をぼかしてしまう。
問われているのは技術への賛否ではない。判断を急ぐときほど、誰が引き受けるのかを先に決めておく、その当たり前を取り戻せるかどうかである。
おすすめ記事
終わりや不確実性を意識するほど、今日の判断を雑にしないという感覚につながる。
今日のワンフレーズ
速く答える仕組みのそばに、
ゆっくり責任を引き受ける人を置こう。
