AIに仕事を任せても、学習まで手放してはいけない ～Human in the Learning Loopという考え方～

生成AIの活用が進むにつれて、「AIエージェントでどこまで自動化できるか」という話を目にする機会が増えた。

情報を集め、整理し、判断材料を作り、次の処理へ渡す。これまで人が一つずつ進めていた仕事を、AIエージェントが連続して処理する。うまく使えば、大きな生産性向上につながることは間違いない。

私自身、AIによる自動化を否定したいわけではない。むしろ、定型的な作業や反復作業は積極的にAIへ任せた方がよい。

それでも、「できるものは全部自動化すればよい」という方向へ議論が進むことには、少し危うさを感じている。

自動化できることと、自動化すべきことは同じではない。

AI活用で考えるべきなのは、「どこまで自動化できるか」だけではなく、「何を自動化しないのか」である。

知識労働は「成果物を作ること」だけではない

知識労働を成果物だけで見ると、自動化の範囲はどこまでも広げられるように見える。

提案書を作る。レポートを書く。会議資料をまとめる。分析結果を整理する。メールを作成する。

最終的に必要なのが成果物であれば、その成果物をAIが作れるようになった時点で、人間が途中の作業をする必要はないようにも思える。

しかし、実際の仕事は成果物を作ることだけで成立しているわけではない。

仕事の途中では、問いを立てる。違和感を持つ。仮説を置く。複数の選択肢を比較する。判断する。結果を見て修正する。そして、その経験から次の判断基準を作っていく。

これらは成果物には直接表れない。しかし、人が仕事を理解し、次により良い判断をするためには欠かせないプロセスである。

AIエージェントが成果物の生成だけでなく、その途中にある思考や判断のプロセスまで担うようになると、人間は仕事の中で考える機会そのものを失っていく。

問題は、作業が減ることではない。

判断経験まで減ってしまうことである。

自動化は、人間の学習ループまで切断する

自動化の効果は分かりやすい。

これまで30分かかっていた仕事が5分になる。複数人で行っていた作業を一人で回せるようになる。夜間でも処理が進む。

一方で、自動化によって失われるものは数字に表れにくい。

人が業務プロセスから離れれば、その仕事について考える回数が減る。判断する回数も減る。判断しなくなれば、なぜその結果になるのかを理解する機会も少なくなる。

その状態が続けば、やがてAIが出した結果を評価すること自体が難しくなる。

これは、単なる個人のスキル低下ではない。

業務知識、判断能力、異常を察知する能力が組織全体から徐々に薄れていく問題である。

こうした現象は、生成AI以前から自動化研究で指摘されてきた。代表的なのが out-of-the-loop performance problem である。自動化によって人間が直接的な操作や判断から離れると、状況認識や技能が低下し、自動化が失敗したときに適切に介入しにくくなるという問題だ。

あわせて、自動化されたシステムを過度に信頼し、監視や確認が弱くなる automation complacency も研究されてきた。自動化が高度になるほど、人間が「確認しているつもり」で実質的には判断していない状態に陥る危険がある。

これらは主に航空機の操縦やプロセス制御などを対象に蓄積されてきた知見である。本稿では、判断の連続である知識労働にも通じる構造として捉えている。

短期的には生産性が上がっていても、長期的には、その仕事を理解し、AIの判断を評価し、例外時に立て直せる人が減っていく。

AI活用を工数削減や処理時間だけで評価するのは危うい。

短期的な生産性向上と、長期的な組織能力は、分けて見る必要がある。

Human in the Loopだけでは足りない

AI活用の議論では、「Human in the Loop」という考え方がよく使われる。

AIにすべてを任せるのではなく、人間を処理の途中に残し、確認や承認を行わせる。AIの誤りや暴走を防ぐという意味では、重要な考え方である。

また、AIを常時操作するのではなく、AIの動きを監視し、必要なときだけ人間が介入する Human on the Loop という考え方もある。

Human in the Loopは処理途中で人間が確認・判断し、Human on the LoopはAIを監視して必要時に介入する。いずれも、人間をAIの意思決定系から完全には外さないための考え方である。

ただし、人間がループの中に存在していることと、人間が学習していることは同じではない。

AIが調査し、AIが分析し、AIが結論を作り、人間は最後に「問題なし」と承認する。

この状態でも、形式的にはHuman in the Loopである。

しかし、人間が判断根拠を理解せず、AIの提案を追認するだけになれば、判断能力は蓄積されない。確認作業そのものが形骸化することもある。

だから、問いを変える必要がある。

「人間をどこに残すか」ではなく、「人間がどこで学び続けるか」を考える。

Human in the Learning Loopという考え方

そこで、今回の問題意識を整理する言葉として、Human in the Learning Loopという考え方を置きたい。

先に触れた自動化研究は、人間が判断や状況認識から外れることのリスクを明らかにしてきた。本稿がそこに加えたいのは、AI時代の知識労働において、人間が学習する機会そのものを業務設計の対象として捉える視点である。

Human in the Learning Loopとは、AIを業務に組み込みながらも、人間が業務理解、判断、修正、意味づけを経験し続けられるように、仕事そのものを設計することである。

Human in the Learning LoopがHuman in the Loopと異なるのは、人間を「安全装置」として残すことが目的ではない点にある。

AIの出力を確認するだけでなく、判断根拠を理解し、自分で評価し、必要なら修正する。その経験を通じて、次の判断に使える知識や感覚を蓄積する。

これは「人間も勉強しましょう」という教育論ではない。

AI導入後の業務プロセスのどこに、人間が考える場面を残すのか。どの判断を経験させるのか。どの部分はAIへ完全に渡してよいのか。

つまり、これは業務設計であり、組織設計の問題である。

人間をループに残すだけではなく、学習が発生する場所を意図的に設計する。

AIエージェントが高度になるほど、この視点は重要になる。

あえてAIに「完成させてもらわない」という使い方

私自身、noteの記事を書くときに、少し似たことをしている。

原稿作成のプロセスはかなり構造化している。最初にテーマを整理し、骨子を作り、章立てを決め、文字数を設計する。そのうえでAIを使ってドラフトを作る。

ここまで構造化しているのであれば、AIに最初から最後まで作らせることもできる。

それでも、私はあえてChat上で何度もやり取りをしている。

出てきた文章を読んで、「この表現は自分が言いたいことと違う」「ここは論理が飛んでいる」「この部分は残したい」「本当に言いたいのはこちらではないか」と返していく。

その往復を繰り返していると、文章が修正されるだけではない。

自分自身の考えも整理されていく。

最初は漠然とした違和感だったものが、対話を重ねるうちに、「自動化そのものが問題なのではなく、人間の学習経路まで消してしまうことが問題なのだ」と言葉になっていく。

AI活用には、少なくとも二つの使い方がある。

一つは、成果物を得るためのAI利用。

もう一つは、人間の思考を深めるためのAI利用である。

後者では、AIとの往復は無駄な手間ではない。

その往復そのものが、学習になっている。

効率だけをKPIにすると、学習は消えていく

これは個人の文章の書き方だけの話ではない。組織の仕事でも、同じ構造が起こり得る。

AIが一度で成果物を作れば、もっと速く仕事は終わる。何度も読み返し、違和感を探し、問い直すのは時間がかかる。

しかし、その「時間がかかる部分」に、人間側の学習がある。

考える。迷う。比較する。修正する。違和感を言葉にする。

こうした経験の積み重ねによって、自分なりの判断基準ができていく。

AI活用のKPIを工数削減だけに置けば、こうしたプロセスはすべて「削減すべき非効率」に見えてしまう。

だが、人間が将来も判断し続ける必要があるのであれば、その非効率を意図的に残す場面も必要になる。

「AIがさらに賢くなれば、人間の判断能力そのものが不要になる」という見方もあるだろう。

しかし、AIの精度が上がるほど、人間が介入する場面は平常時ではなく、例外時や失敗時へ偏っていく。頻度は下がっても、そのとき求められる判断の難度は下がらない。だからこそ、普段から判断能力を維持する仕組みが必要になる。

AI時代に最適化すべきなのは、作業時間だけではない。

人間がどこで経験し、どこで学習するのかも、設計対象になる。

AIに任せる仕事、人間に残す判断、人間に経験させる仕事

では、AIエージェントを導入するとき、どのように考えればよいのか。

業務を単純に「AIができる仕事」と「AIにはできない仕事」に分けるだけでは不十分である。

少なくとも、三つに分ける必要がある。

一つ目は、AIに任せる仕事。

定型的な処理や情報整理など、人間がその作業を経験し続けなくても、将来必要な判断能力が失われにくい仕事は積極的にAIへ渡してよい。

二つ目は、人間に残す判断。

責任を伴う判断、価値判断、意味づけ、例外への対応などである。これは、その時点で人間が担うべき意思決定として残す。

そして三つ目が、人間に経験させる仕事だ。

現時点ではAIでもできる。しかし、その仕事を人間が経験しなくなると、将来必要な判断能力が育たなくなる。そうした仕事は、効率だけで見れば自動化対象でも、育成や組織能力の観点では意図的に経験機会を残す必要がある。

切り分けるときには、少なくとも二つの問いが使える。

• その判断能力は、5年後も自分たちの組織に必要か

• AIが止まったり、想定外の結果を出したとき、その仕事を立て直せる人が必要か

どちらにも「必要」と答える仕事であれば、完全自動化する前に、人間がどのように経験を積み続けるかを設計した方がよい。

つまり、これから重要になるのは、「人にしかできない仕事」を残すことだけではない。

「人ができるようになるために、経験すべき仕事」を残すことである。

これが、Human in the Learning Loopの実務上の核心になる。

AI-Nativeとは、人間を消すことではない

AIエージェントを使うこと自体には、大きな価値がある。

人間がやらなくてもよい仕事まで、人間が抱え続ける必要はない。自動化できる部分は、これからさらに自動化されていく。

ただ、そのときに人間の学習経路まで一緒に消してしまってよいのかは、別の問題である。

AI-Nativeな組織とは、人間を業務から消していく組織ではない。

目指すべきなのは、AIと人間の役割を再設計し、AIが働くほど、人間の判断能力も高まっていく構造をつくることである。

AIに仕事を任せても、学習まで任せてはいけない。

これからAIエージェントを導入するときには、

「どこまで自動化できるか」だけでなく、「この仕事のどこで、人は学び続けるのか」を問う。

その問いまで含めて、AI時代の業務設計なのだと思う。

参考

• Endsley, M. R., & Kiris, E. O. (1995). The Out-of-the-Loop Performance Problem and Level of Control in Automation. Human Factors, 37(2), 381–394.

• Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410.