【人間と機械の役割分担を考えるシリーズ 番外編】AIにどこまで任せるか ― 25年前の論文から「人間×自動化」モデル、AIエージェント時代の設計図をひもとく・・？

「AIに仕事を任せる」と言うとき、私たちは実はかなり曖昧な話をしています。

メールを要約してもらうこともAI活用。

市場データを分析してもらうこともAI活用。

「この会社に営業すべきです」と推薦してもらうこともAI活用。

そのままAIが相手にメールを送り、商談を設定するところまでやれば、それもAI活用です。

でも、この4つはまったく同じではありません。

• 情報を集めること。

• 情報を解釈すること。

• 判断すること。

• 実際に行動すること。

人間がこれまで行ってきた仕事の、どの部分を機械に渡すのか。

そして、その機械にどこまで権限を渡すのか。

生成AI、AIエージェント、自動運転、ロボティクスが一気に進み始めた今、この問いは急に重要になってきました。

ところが、この問題をかなり明快に整理した論文が、実は2000年にすでに発表されています。

Raja Parasuraman、Thomas B. Sheridan、Christopher D. Wickensによる、

“A Model for Types and Levels of Human Interaction with Automation”

です。

IEEEの Transactions on Systems, Man, and Cybernetics に掲載された論文で、著者たちは、

自動化を単なる「する／しない」の二択ではなく、

何を自動化するか（Type）

と

どこまで自動化するか（Level）

という二つの軸で考えました。

26年後の現在から読み返すと、これはまるでAIエージェント時代のために書かれた設計図のようにも見えます。

人間の仕事は、4つに分解できる

この論文の基本モデルは驚くほどシンプルです。

人間が何かを認識し、判断し、行動するときのプロセスを、著者たちは大きく4段階に整理しました。

1．Information Acquisition　情報取得

まず、世界から情報を集めます。

• センサーで情報を取得する。

• ニュースを検索する。

• 顧客データを集める。

• 大量のメールから必要なものを抽出する。

これは現在のAIでいえば、検索、クローリング、センシング、RAG、データ取得などに相当します。

2．Information Analysis　情報分析

次に、集めた情報を意味のある形にします。

• 分類する。

• 比較する。

• 統合する。

• 異常を見つける。

• パターンを発見する。

• 将来を予測する。

生成AIが急速に入り込んでいるのは、まさにこの領域でしょう。

• 100ページのレポートを読ませて要約させる。

• 複数の市場データから変化の兆候を見つける。

• 企業の決算情報を比較する。

こうした仕事はInformation Analysisにあたります。

3．Decision and Action Selection　意思決定・行動選択

ここから一段、意味が変わります。

情報を分析するだけではなく、

「では、どうするべきか？」

を決める領域です。

例えば、

「この企業を買収候補にするべきだ」

「この顧客に営業するべきだ」

「この患者にはこの治療を選択すべきだ」

「この投資案件を承認すべきだ」

という領域です。

生成AIからAIエージェントへの進化で、今まさに焦点になっているのはここでしょう。

AIは単に情報を整理するだけではなく、選択肢を提示し、推薦し、場合によっては選択そのものを行い始めています。

4．Action Implementation　行動実行

最後は、決定されたことを実行する段階です。

• メールを送る。

• 発注する。

• システムを変更する。

• 株式を売買する。

• 機械を動かす。

• 車を運転する。

つまり、

「考えるAI」から「動くAI」へ。

Agentic AIが大きな転換点だと言われる理由も、ここにあります。

従来の生成AIの多くは「分析」や「提案」まででした。

AIエージェントは、その先にあるAction Implementationまで入り始めています。

原論文が示した4段階を現代風に書けば、

Search → Analyze → Decide → Act

と考えることもできるでしょう。

さらに重要なのが「どこまで任せるか」

この論文の面白さは、ここで終わりません。

例えば「意思決定をAI化する」と言っても、その中にはさまざまなレベルがあります。

著者たちは、先行研究をもとに意思決定・行動選択の自動化を10段階で整理しています。

ざっくり現代風に言い換えると、こんな感じです。

1. Level人間と機械の関係1AIは何もしない。

2. 人間がすべて判断・実行2AIが可能な選択肢を提示3AIが候補を絞り込む4AIが「これが良い」と1案を推薦5AIが提案し、人間が承認すれば実行6AIが決定。

3. 人間には拒否できる短い時間がある7AIが自動実行し、その後人間に報告8AIが実行。

4. 人間から聞かれた場合に説明9AI自身が必要だと判断した場合だけ人間に知らせる10AIがすべて判断・実行。

5. 人間は関与しない

こう並べてみると、現在の生成AIをめぐる議論が急に整理されます。

ChatGPTに文章案を作らせるのはLevel 2〜4に近い。

AIが作ったものを人間が承認して送るならLevel 5。

AIエージェントが自ら処理し、人間に事後報告するならLevel 7。

気づかないところでエージェント同士が交渉し、契約し、発注し、決済する世界になればLevel 8〜10に近づいていきます。

つまり、

「AIを導入しているかどうか」だけを聞いても、ほとんど意味がない。

本当に問うべきなのは、

なのです。

「AI導入率」という一本の物差しでは測れない

ここから、経営にとってかなり重要な示唆が出てきます。

このモデルは、

Type × Level

という二次元になっています。

例えばある会社は、

• 情報取得：Level 9

• 情報分析：Level 8

• 意思決定：Level 4

• 行動実行：Level 2

かもしれません。

大量の情報収集と分析はほぼAIに任せる。

しかし重要な判断はAIから提案を受け、人間が行う。

実行も人間が行う。

これは十分あり得る設計です。

一方で、

• 情報取得：Level 10

• 情報分析：Level 10

• 意思決定：Level 9

• 行動実行：Level 9

という仕組みも技術的には可能になっていくでしょう。

どちらが「進んでいる」のか。

実は、そういう単純な問題ではありません。

自動化は、人間を楽にするだけではない

この論文には、もう一つ非常に重要なメッセージがあります。

著者たちは、

automation does not merely supplant but changes human activity

と指摘しています。

つまり自動化は、人間の仕事を単純に置き換えるのではありません。

人間の仕事そのものを変えてしまう。

そして、自動化によって生じる人間側の問題として、主に次のような点を検討しています。

• Mental workload：精神的負荷

• Situation awareness：状況認識

• Complacency：自動化への過信

• Skill degradation：技能低下

例えばAIがいつも判断してくれるようになったとします。

人間の負荷は下がります。

処理速度も上がるでしょう。

ところがその一方で、人間は、

「なぜその判断になったのか」

「いま何が起きているのか」

を把握しなくなる可能性があります。

そして突然AIが故障したとき、

人間にはもう代わりに判断する能力が残っていない。

これが、いわゆるOut-of-the-loop problemです。

自動化から人間を外していくほど、正常時の効率は上がる。

しかし異常時には、逆に人間が対応できなくなる。

このジレンマは、AI時代になってむしろ大きくなっています。

14年後の研究でも確認された「境界線」

このモデルはその後、多くの研究で検証されました。

2014年にはOnnaschらが18の実験研究を統合したメタ分析を発表しています。

結果は興味深いものでした。

自動化の程度が高まるほど、

通常時のパフォーマンスは向上する。

人間の負荷も、概して低下します。

ところが一方で、

自動化が失敗したときの人間のパフォーマンスは悪化し、Situation Awarenessも低下する。

さらに特に興味深いのは、負の影響が大きくなりやすい「境界」が、

Information Analysis
　↓
Decision / Action Selection

の間に見つかったことです。

これは現在の生成AIを考えるうえで、かなり重要ではないでしょうか。

AIに、

「情報を調べてもらう」

「分析してもらう」

ところまでは比較的進めやすい。

しかし、

「だからこうすべきだ」

という意思決定に入った瞬間、問題の性質が変わる。

さらに、

「では実行しておきます」

まで進むと、もう一段変わります。

まさに現在、私たちがCopilotからAgentへ移ろうとしている境界そのものです。

AI時代の問いは「人間かAIか」ではない

だから、これから企業が考えるべき問いは、

「この仕事をAIに置き換えられるか？」

だけではないと思います。

もっと細かく、

① 誰が情報を取得するのか

② 誰が情報を分析するのか

③ 誰が選択肢を作るのか

④ 誰が最終判断するのか

⑤ 誰が実行するのか

⑥ 誰が結果を監視するのか

⑦ 問題が起きたとき、誰が止めるのか

まで設計する必要があります。

そして重要なのは、

すべてを同じ自動化レベルにする必要はない

ということです。

AIエージェント時代の「組織設計」へ

この話をさらに進めると、自動化の問題はもはやITシステムの設計だけではありません。

組織設計そのものになってきます。

これまで企業は、

営業部門が情報を集め、

企画部門が分析し、

経営会議が意思決定し、

現場が実行する、

というように、人間同士で役割を分担していました。

これからはそこにAIが入ります。

すると組織図は、

Human × Human

だけではなく、

Human × AI × AI Agent

の役割分担図になっていきます。

人間の役職を決めるように、

AIにも、

「どこまで情報を見せるのか」

「何を判断してよいのか」

「いくらまで発注してよいのか」

「どの条件なら人間にエスカレーションするのか」

という権限設計が必要になります。

これはある意味、

AIのための職務権限規程を作るようなものです。

「Human in the Loop」だけでは足りない

よくAIガバナンスでは、

Human in the Loop

という言葉が使われます。

しかし、このモデルを読むと、それだけでは少し粗いことが分かります。

問題は、

人間がいるか、いないか

だけではありません。

人間が、

• 情報を見るのか。

• 分析するのか。

• 候補を選ぶのか。

• 承認するのか。

• 拒否権を持つのか。

• 事後報告だけ受けるのか。

ここには大きな違いがあります。

つまり必要なのは、

Human in the Loop

からもう一歩進んだ、

Human–AI Decision Architecture

なのではないでしょうか。

人間とAIの間に、どのように「見る・考える・決める・動く」を配分するのか。

それこそが、これからの企業に必要な設計能力になっていくと思います。

26年前の論文が、いま再び新しく見える理由

興味深いことに、原著者の一人Thomas B. Sheridanは2026年にも、AIを含むIntelligent Automationと人間の関係について、再び「自動化レベルの連続体」を論じています。

2000年には、

「コンピュータにどこまで任せるか」

という問題だったものが、

2026年には、

「AIがどこまで自律的に考え、決め、動くのか」

という問題になった。

技術は大きく変わりました。

しかし根本の問いは、ほとんど変わっていません。

むしろAIエージェントによって、ようやくこのモデルが本格的に必要になる時代が来た、とも言えます。

人間の仕事は「残るか、消えるか」ではない

AI時代になると、どうしても、

「この仕事はAIに奪われるのか」

という議論になりがちです。

けれど、この論文が教えてくれるのは、もっと解像度の高い見方です。

仕事は一枚岩ではありません。

仕事の中には、

• 集める。

• 理解する。

• 決める。

• 動く。

という異なる機能があります。

その一つひとつについて、

• 人間がやるのか。

• AIが支援するのか。

• AIが推薦するのか。

• AIが実行するのか。

を設計できる。

だから未来の仕事を考えるとき、

「人間か、AIか」

という二択から始める必要はありません。

むしろ、

その問いこそが重要になります。

AIの能力が高くなればなるほど、

「何ができるか」以上に、

「何を任せるべきか」

を決める能力が経営に求められる。

Parasuraman、Sheridan、Wickensが26年前に提示したモデルは、

自動化の理論であると同時に、

これからの人間とAIの役割分担を設計するための経営モデルとして、もう一度読み直す価値があるのではないでしょうか。

もしこの記事にご興味を持っていただけましたら、こちらで僕が考える新しい仕事の定義も書いてみたので、ぜひご参照ください。
→有料版では、みなさまそれぞれの立場や状況に合わせてどんなふうに仕事が変わっていくのか、実際に一緒に考えられるワークシート付のコンテンツになっています^_^

参考論文

Raja Parasuraman, Thomas B. Sheridan, Christopher D. Wickens
“A Model for Types and Levels of Human Interaction with Automation”
IEEE Transactions on Systems, Man, and Cybernetics - Part A: Systems and Humans, Vol.30, No.3, 2000, pp.286–297.
DOI: 10.1109/3468.844354

Linda Onnasch, Christopher D. Wickens, Huiyang Li, Dietrich Manzey
“Human Performance Consequences of Stages and Levels of Automation: An Integrated Meta-Analysis”
Human Factors, Vol.56, No.3, 2014, pp.476–488.
DOI: 10.1177/0018720813501549

📚 関連記事・マガジン

AIが、仕事を変え、教育を変え、医療や司法、創造のあり方まで変え始めています。これから人間は何を機械に任せ、何を自分たちの役割として残していくのか。 医療・教育・司法・経営・クリエイティブ・社会制度など、さまざまな現場から「人間と機械の役割分担」と、「分界点」「境界線」を考える記事を集めるマガジンです。

#生成AI #AIエージェント #税務 #会計 #KSK2 #国税庁 #TaxAdministration #経営戦略 #意思決定 #DX #AI活用 #AI時代の働き方 #AIエージェント #デジタルDX #業務効率化 #リスキリング #税務会計 #公認会計士 #税理士 #国税庁 #KSK2 #データ駆動経営 #コーポレートガバナンス #未来の働き方 #イノベーション #FutureDesign #クリエイティブ #プロフェッショナルサービス #経営者 #組織設計 #HumanAI #生成AI #AIエージェント #エンジニア #ソフトウェア開発 #AIコーディング #組織設計 #Architecture #HumanAI #DX #未来の仕事 #アランチューリング #岡本太郎 #レイカーツワイル #スティーブジョブズ #経営戦略

CROSS Business Producers
CROSS Graph Team
Knowledge Architect　フランソワ🐾
未来を描く事業開発のプロフェッショナル。
新規事業・AI戦略・未来構想の伴走支援を行っています。
「正しい戦略より、美しい構想を。」

💻今日のおススメレポートはこちら（購入可能）👇