1. AIは企業における新たな「実行主体」になりつつあります

企業における生成AIの活用方法は急速に変化しています。 初期の生成AIは、ユーザーの質問に回答したり、 文書を要約したり、メールやレポートの作成を支援したりするなど、 人の業務を補助するツールとして利用されるケースが中心でした。

しかし、AI Agentの登場によってAIの役割は大きく変化しています。 AI Agentはユーザーの要求を理解するだけでなく、 与えられた目標を達成するために必要な作業を判断し、実行することができます。 状況に応じて外部ToolやMCP Server、業務APIを呼び出し、 データベースやファイルへアクセスし、 複数のシステムを連携させて実際の業務を遂行することも可能です。

つまり、企業が管理すべきAIの範囲は、 「AIが何を回答したのか」から 「AIが何を判断し、どのような行動を取ったのか」へと拡大しています。

2. AI Agentが実際の業務を行うと、セキュリティの問いも変わります

例えば、ユーザーが社内AI Agentに 「今月のプロジェクトコストを分析し、必要なフォローアップを実施してください」 と依頼したとします。 従来の生成AIであれば、関連データを分析し、 結果をまとめるところで業務が完了する可能性があります。

一方、AI Agentは社内システムからコストデータを取得し、 必要な文書を読み込み、 外部Toolを利用してデータを分析することができます。 さらに分析結果に基づき、担当者へメールを送信したり、 承認プロセスを作成したり、 業務システムへデータを入力したりするなど、 その後のアクションまで実行することができます。

この過程において、AIはもはや単なる情報提供者ではありません。 企業のデータやシステムへアクセスし、 自ら判断して実際の業務を遂行する新たな実行主体となります。 AIの活用範囲が広がるほど、 企業が考慮すべきセキュリティの範囲も同時に拡大する必要があります。

3. 正当な権限で実行された行動は、常に安全なのでしょうか？

従来の企業セキュリティ体系は、 ユーザーとアプリケーションを中心に発展してきました。 IAMとSSOは誰がシステムへアクセスできるかを管理し、 WAFとAPI GatewayはリクエストやAPI通信を保護します。 EDR/XDRはEndpointで発生する脅威を検知し、 SIEM/SOARは複数のシステムで発生したセキュリティイベントを収集・分析します。

こうした既存のセキュリティ体系は、 AI Agent環境においても引き続き重要です。 しかし、AIそのものが一つの実行主体になることで、 これまでには存在しなかった新しい問いが生まれます。

AI Agentが正しく認証されたアカウントを使用し、 企業が許可したAPIやToolを呼び出した場合、 従来のアクセス制御の観点では正常な行為に見える可能性があります。 しかし、Agentが誤ったContextを参照していたり、 Memoryに保存された情報が汚染されていたり、 外部入力によってReasoningの過程が歪められていた場合、 結果は大きく異なる可能性があります。

つまり、権限が正当であっても、行動そのものが誤っている可能性があります。 従来のセキュリティがユーザー・プロセス・ネットワークイベントを監視する一方で、 AI Agent環境では Prompt → Context → Memory → Reasoning → Tool Call → Action へと続く判断の文脈までつなげて確認する必要があります。

4. これからはAIの「判断」と「行動」を一体として保護する必要があります

従来の生成AI環境では、 PromptとResponseの安全性を確認することが 重要なセキュリティ領域でした。 しかし、AI Agent環境では、 保護すべき範囲がさらに広がります。

AI AgentがどのようなPromptを受け取ったのか、 どのContextやMemoryを参照したのか、 どのような判断を行ったのか、 その結果どのToolを呼び出し、 どのようなActionを実行しようとしているのかまでを、 一つの実行フローとして確認する必要があります。

そのため、単に 「このAgentにはこのAPIを利用する権限があるか？」 を確認するだけでは不十分です。 さらに、 「現在の根拠や状態、そして企業ポリシーを踏まえた場合、 このAgentがこの行動を実行することは妥当なのか？」 まで確認できる必要があります。

また、危険な行動を検知した後に 管理者へ通知するだけでは十分ではない場合があります。 AI Agentが直接業務システムを変更したり、 外部へデータを送信したりできる環境では、 実際の行動が実行される前に、 再確認、人による承認、隔離、遮断などの対応手段が必要です。

5. AIの判断から実際の行動までを保護するCOONTEC ASH™

COONTECのASH™は、 AI Agent環境向けのAI Agent Security Platformです。 既存の企業向けセキュリティソリューションを置き換えるものではなく、 従来のセキュリティ体系だけでは把握や制御が難しい AI Agentの実行レイヤー（Execution Layer）を補完することが重要な役割です。

ASHは、AIの実行フロー全体を MODEL → PROMPT → REASONING → TOOL → ACTION → AUDIT という観点でつなげて保護します。 そのために、Model Gate、RunWatch、EndForce、Enterprise Editionという 4つのセキュリティレイヤーを提供します。

6. 既存セキュリティを置き換えるのではなく、新たなセキュリティギャップを補完します

AI Agentが登場したからといって、 既存の企業セキュリティ体系が不要になるわけではありません。 ユーザーのIdentityと権限を管理するIAM/SSO、 NetworkとAPIを保護するWAF/API Gateway、 Endpointを保護するEDR/XDR、 セキュリティイベントを分析・対応するSIEM/SOARは、 引き続き重要です。

ASHが保護しようとするのは、それとは異なる領域です。 User → AI Agent → Reasoning → Tool/API → Action という新たな実行経路が企業の業務環境に生まれることで、 従来のセキュリティ制御の間に新たに発生した AI Agent Execution Securityのギャップを補完します。

そのため、ASHは既存のセキュリティと連携しながら、 AIモデルの導入からAgentの判断、 Toolの利用、実際のAction、そしてAuditまでを 一つの流れとしてつなげます。

7. AI Agentセキュリティで確認すべき重要な変化

8. AI Agentが普及するほど、「何をしたのか」を保護する必要があります

AIが回答するツールを超え、 直接行動する実行主体へと変化することで、 AIセキュリティの基準も変わりつつあります。 今後は、AIが生成したResponseの安全性だけでなく、 どのような根拠に基づいて判断し、 どのToolを選択し、 実際にどのような行動を実行したのかまで 確認し、制御できる必要があります。

特にAI Agentがより多くの企業データやシステムと接続され、 自律的に実行できる業務範囲が広がるほど、 こうした実行プロセスに対する 可視性と制御の重要性はさらに高まっていくでしょう。

COONTEC ASH™は、 モデル導入からAgentの判断と実行、 Endpointにおける実際の行動、 そして企業全体のAuditまでをつなげることで、 AI Agentが安全にビジネス価値を生み出せるよう支援します。