流行のAIエージェント セキュリティに与える影響は？

AIエージェントはチャットbotや生成AIとは異なるメリットをビジネスにもたらす。ただし、サイバー攻撃の次の標的になる可能性がある。

[Lindsey Wilkinson，CIO Dive]

　ローコードプラットフォームなどを開発するPegasystemsが2025年1月に発表した報告によると、従業員の大半はAIエージェントの導入に前向きだが（注1）、信頼性や精度、透明性に関して懸念点が多いという。

AIエージェントがセキュリティに与える影響は？

　市場調査企業のYouGovと提携し、米国と英国を拠点とする2100人以上の従業員を対象に実施した調査から次のことが分かった。

　労働人口の3分の1がAIエージェントの品質に不安がある。その他の回答者は、技術の正確性と（顧客の）感情認識能力の欠如を問題視しているようだ。

　およそ5人に2人の回答者が「AIが対応した仕事を提出することに不安を覚える」と述べており、従業員の3分の1以上は「自分で対応した仕事と比較して、AIが対応した仕事は劣っている」と回答した。

そもそもAIエージェントとは何か

　AIエージェントは自律的にタスクを実行し、目標を達成するために設計されたAIシステムだ。ユーザーが設定した目標に基づいて、必要なデータを収集し、自己決定的に行動を選択して実行する。従来のAIとは異なり、単に指示を待つのではなく、積極的にタスクを遂行する能力を持っていることが特徴だ。

　ユーザーが「明日の12時に到着するように最寄りの空港発、東京行きの飛行機を予約してほしい」と依頼すると、AIエージェントが自律的に情報を検索し、最適な便を提案し、予約操作を進める。つまり目標達成へ必要なタスクを自ら考えて、実行できる。ビジネスプロセスの効率化や自動化に役立つのがこの点だ。AIエージェント技術がさらに進むと、複数のAI技術を組み合わせて、従来のAIでは実行できなかった複雑なタスクを自動的に実行できるようになる。

AIエージェントは何でないのか

　AIエージェントは、ユーザーの指示に従うだけの反応型のシステムではない。従来のチャットbotのように、単一の質問に対して反応するだけの機能ではなく、複数のステップを必要とするタスクを能動的に実行できる。

　同様に生成AIとも違う。AIエージェントは生成AIの出力を利用して行動を起こす点が異なる。生成AIはユーザーの入力に従って新しいコンテンツを生成することに特化しているが、AIエージェントはその生成された情報を基に実際のアクションを実行できる（キーマンズネット編集部）

　AIエージェントは2025年に企業が対応すべきリストに含まれているだろう。しかし、大半の組織は準備段階にとどまっている。

　導入技術に課題がある。大半のCIO（最高情報責任者）は、AIエージェントを導入する前に技術スタックのアップグレードが必要だと認めている（注2）。導入時の課題を解決するためにベンダーが介入しているが（注3）、標準化とガバナンスについていまだに疑問が残る。

AIエージェントが攻撃対象になるか

　サイバー攻撃の対象範囲が拡大する中で（注4）、セキュリティの確保が新たな課題だ。

　Gartnerによると、AIエージェントは攻撃者の主要なターゲットになる恐れがあり、ワークフローにエージェントを導入する前にセキュリティ対策を強化する必要があるという。Gartnerは今後3年間でAIエージェントの悪用が企業に対する侵害の4分の1を占めるようになると予測する。

　Pegasystemsの報告によると、技術リーダーは、AIエージェントの導入が進むにつれて従業員の感情とも向き合わなければならない。5人に2人以上の従業員は「精度と信頼性の向上が懸念を和らげる」と述べている。それに続くのが、より良い研修と透明性の向上だ。

　現在は黎明（れいめい）期に当たるものの、AIエージェントの導入を開始した企業も存在する。世界的なコンサルティングファームのAccentureでは、約600人のマーケティング担当者がAIエージェントを活用してキャンペーンを作成している（注5）。トヨタ自動車では、知識の共有と保存を支援する目的で9つのエージェントが使われている（注6）。

出典：Workers worry over AI agent accuracy, quality（CIO Dive）
注1：Workers Embrace Agentic AI Despite Concerns About Trust and Reliability, Says Research（Business Wire）
注2：Security, data challenges hinder agentic AI adoption（CIO Dive）
注3：Snowflake launches AI agents, powered by Anthropic’s Claude（CIO Dive）
注4：4 ways AI could impact employees, workflows: Gartner（CIO Dive）
注5：AI agents spark interest, concern for businesses in 2025（CIO Dive）
注6：Microsoft readies Copilot Studio for agentic AI（CIO Dive）

原文へのリンク