AI Agent の管理・保護に必要なこと

AI、みなさん使っていますか？私も日々生成AIは活用しています。生成AIは当たり前になっていますが、次はAI Agentです。
AI Agent とは、人間の代わりに目的を達成するために、自分で考えて行動するAIのことです。「自分で考えて行動」されてしまうのを、どう管理し、どう保護していけばいいのか。この記事では考えていきます。

生成AI と AI Agent

生成AIは、質問されたことに返すもの。AI Agentは目的を理解し、手順を考え、必要な行動をしてくれるAIです。

自分で動いてくれるAI、管理するにはどうしたらいいのでしょうか？

イマドキのセキュリティ、SASEでできないの？

SASE、読み方分かりますでしょうか？「サッシー」とか「サシー」と呼ばれます。Secure Access Service Edgeの略で、ネットワークにセキュリティが統合された製品です。
端的に説明すると、社内から社外、社内から社内の通信をぜんぶ通して、おかしな通信があったら検知したりブロックしたりするものです。会社を守るためには非常に有効かつ効率的な製品です。

ただ、社内から社外、社内から社内ですので、自分で考えて行動するAI Agentを管理することはできません。企業の中からの通信は見えるので、可視化まではできますが、管理することはできません。

AI Agent は、人と同じように管理する

現実的な課題としては、人とアプリケーションは、認証・認可をもつIdP（Entra IDやOkta）で管理されています。でも、AI Agentはシークレット、特権アカウント、APIといったことがあり、管理は別であることはほとんどです（でした）。
（でした）とかっこ書きにしたのは、今後は人と同じように管理する必要があるからです。Non-Human Identityと呼ばれますが、作成者が退職しようと動き続けるわけで、通信だけでなく、人と同じようにIdPを用いて管理しなくてはいけません。

なぜ人と同じように管理しないといけないのでしょうか？
冒頭で説明したとおり、AI Agentは目的を理解し、手順を考え、必要な行動をしてくれるAIです。目的を理解し、手順を考え、必要な行動をとる、人と同じです。人と同じように、何にアクセスしているのかを確認し、おかしな行動をしないか、おかしな行動をしたら停止できるようにしないといけません。信頼してはいけないのです。まさにゼロトラスト、都度認証。

OAuth の拡張 “ID-JAG”

AIが盛り上がると、NHIの管理が重要となります。重要になると、製品がでます。製品がたくさんでると、バラバラの仕様で困ります。
認可プロトコルであるOAuthを拡張することで解決しようとする“ID-JAG”が進められています。ID-JAGはアイデンティティ管理のOkta社が中心に仕様策定を進められています。

翻訳します。

やっぱり難しい。一言で言うと、こんな感じでしょうか。

エンタープライズIdPは、Entra IDやOktaにあたるものです。エンタープライズIdPで管理されるということは、企業側で管理できるということになります。メリット大ありです。

この IdP は超超超信頼できるものでないといけない

中核となるエンタープライズIdP、止まると全部止まるわけです。超超超信頼できるものでないといけません。しかも、すべての認可情報があつまり、判断するわけですから。相当な投資が必要となります。
現在、可視化するソリューションは多く存在していますが、管理まで提供できているのは、私が知る限り、Microsoft 365 E7とOkta for AI Agentの2つしかありません。この2つは、トラブル発生時に祭りとはなりますが、実際には超超超信頼できるものと考えていいのではないでしょうか。

さいごに…盛り上がるのはすぐではないけれど、早めに考えておくとメリットあり

AI Agentをしっかりと使えている企業は多くないのではないでしょうか。残念ながら弊社も同じです。多くはないわけで、この手の考え方が盛り上がるのはすぐではないと思われます。
しかし、認可を統合させるわけですので、早め早めの対応にメリットあります。増えたものを統合するのはすごく大変だから。まずは、一緒に、試してみませんか？お声がけお待ちしています。

#丸紅IDIGIO