【2026年9月20日】AIエージェントにも「職務権限規程」が必要だ：便利になるほど、任せてはいけないことを決める
1. 「間違った回答」から、「間違った行動」へ
本日取り上げるのは、日本経済新聞の「AIエージェントのダークサイド顕在化、システム開発で相次ぐ事故」という記事です。
かなり考えさせられる内容でした。
これまで生成AIのリスクといえば、ハルシネーションのように「間違った答えを出す」ことが中心でした。
しかしAIエージェントでは、問題の次元が変わります。
AIが判断するだけでなく、実際に行動するからです。
記事では、米PocketOSが利用していたAI開発支援ツールのエージェントが、認証情報の不一致を解消しようとして、本番環境のデータベースを削除した事例が紹介されています。
しかも、確認も警告もないまま、わずか9秒。
バックアップも同じ保存領域にあり、復元できる最新データは3カ月前だったといいます。
AIが「間違えた」のではありません。
間違った判断に基づいて、実際に行動してしまった。
AIエージェント時代のリスクは、ここにあります。
2. 問題はAIの暴走だけではない。「そんな権限をなぜ与えたのか」でもある
ただし、この記事を「やはりAIは怖い」という話だけで終わらせるのも違うと思います。
PocketOSのケースでは、AIエージェントが偶然見つけたAPIトークンに、本番環境まで操作できる包括的な権限が付与されていました。
AWSの事例でも、AIコーディングエージェントが変更を行えるようにしたアクセス制御が問題となっています。
つまり、
AIが危険だった
というより、
AIに何をさせてよいのかという権限設計が甘かった
とも言えます。
記事の中でも、AIエージェントは「人間と同様にミスをする存在」と見なして対策する必要があると指摘されています。
これは非常に重要だと思います。
人間の社員であれば、新入社員にいきなり全社データベースの削除権限を渡すことはまずありません。
職務に応じて権限を分ける。重要な操作には承認を求める。職務分掌を設ける。ログを残す。
では、なぜAIエージェントになると、突然それを忘れてしまうのでしょうか。
3. AIエージェントにも「職務定義・権限・評価・監督」が必要になる
ここで人的資本経営の話につながります。
SP総研が独自に開発した人的資本開示評価のための指標「SPI： Sustainable Performance Index」では、人的資本をKnowledge、Skill、Ability、Other characteristicsを含む広義のスキルとして捉えています。
そして今後、AIエージェントまで含めてワークフォースを考えるのであれば、AIについても、
何の仕事を担わせるのか。
何のケイパビリティを持っているのか。
どこまでの権限を与えるのか。
どの判断には人間の承認を必要とするのか。
誰がそのAIを監督するのか。
を定義する必要があります。
いわば、
「AI版・職務権限規程」
です。
AIエージェントを「デジタル社員」と呼ぶ企業も出てきています。
であるなら、便利なところだけ社員扱いして、「24時間働きます」「人件費がかかりません」と喜ぶのではなく、ガバナンスまで含めて社員のように管理しなければなりません。
むしろAIの方が、疲れず、迷わず、数秒で大量の処理を実行できるだけに、権限設計は人間以上に厳格であるべきでしょう。
4. AI時代には、人間側にも「AIを監督するスキル」が必要になる
そして、もう一つ重要なのが人間側です。
記事には、MetaでAIが出した不正確な技術助言を人間が信じて実行し、結果として本来アクセスできないデータへ一時的にアクセス可能になった事例も出てきます。
ここではAIが勝手に実行したわけではありません。
人間がAIを信じすぎた。
つまり、AIエージェント時代に必要なのは、AIを使えるスキルだけではありません。
AIの判断を疑うスキル。
重要度に応じて人間確認を入れるスキル。
AIへ与える権限を設計するスキル。
異常行動を検知するスキル。
事故時に止めるスキル。
まで人材要件に入ってきます。
AI活用能力だけを評価して、
「この人はAIをたくさん使っています」
「大量のエージェントを作りました」
と褒めているだけでは危険です。
重要なのは、
どこまでAIに任せ、どこから人間が責任を持つのかを判断できること。
これこそ、AI時代のマネジメントスキルになるのではないでしょうか。
5. 「生産性向上」が、新しい仕事を生んでしまうという皮肉
この記事でもう一つ興味深かったのが、AIによる生産性向上そのものが人間の負荷を増やす可能性です。
AIが大量の脆弱性を発見すると、それを確認し、優先順位をつけ、修正するセキュリティ担当者の仕事が爆発的に増える。
記事では、これを「脆弱性の嵐」と表現しています。
これはセキュリティだけの話ではないでしょう。
AIが100本の企画案を作れば、誰かが100本を評価しなければならない。AIが大量の候補者を推薦すれば、人事がそれを検証しなければならない。AIが大量のリスクを指摘すれば、法務や経営が重要度を判断しなければならない。
つまり、
AIによるアウトプット増加 ＝ 人間の生産性向上
とは限りません。
AIが生み出した大量のアウトプットを処理するために、人間側の仕事が増えてしまえば、本末転倒です。
だからAI導入では、
AIが何時間削減したか
だけではなく、
AIによって新たに人間側へ発生した確認・監督・判断業務まで含めて、全体の生産性がどう変化したか
を見る必要があります。
結びに代えて：AIに仕事を任せるとは、「権限」も渡すということ
AIエージェントの魅力は、自律性です。
人間がいちいち指示しなくても、自ら考え、ツールを使い、タスクを完了してくれる。
しかし、その魅力とリスクは表裏一体です。
自律的に仕事ができるということは、自律的に間違った行動もできるということ。
だからAIエージェント導入の議論では、
「何ができるか」
だけでは足りません。
何をしてはいけないのか。
何をするには承認が必要なのか。
どのデータへアクセスしてよいのか。
どこで人間が止めるのか。
最終的に誰が責任を負うのか。
まで設計する必要があります。
これは、テクノロジー部門だけの仕事ではないでしょう。
仕事、役割、権限、責任、評価を設計するという意味では、明らかに人事・組織設計のテーマでもあります。
AIエージェントをワークフォースに加えるのであれば、
「AIに何をさせるか」だけではなく、「AIをどうマネジメントするか」までが人的資本経営になる。
私は、今回の記事をそのように読みました。
AIエージェントのダークサイドを恐れて使わない、ではない。
便利だからこそ、任せてはいけないことを先に決める。
これがAI-Native組織の最低条件なのだと思います。
従業員が保有するスキルの可視化については、私が提唱する「セルフジョブ定義」も参考にしてみてください。
引き続きこちらの書籍もよろしくお願いいたします。
