「意識低い系AIエージェント」のセキュリティリスク どう対策するか

生成AIのセキュリティリスクを語る際は、ユーザーへの教育が重視される。では自律的に動くAIエージェントではどうすればよいのだろうか。ユーザーへの教育だけでは不十分だろう。

[宮田健，キーマンズネット]

　企業で生成AIを導入、運用する際、必ず話題に挙がるのがセキュリティの課題だ。「従業員が生成AIに企業秘密を入力することをどうやって防ぐのか」といった視点が多い。営業情報や顧客情報、認証関連の情報などを入力してしまうと、それが学習に使われたり、場合によっては漏えいにつながる心配がある。

　だが、このような見方は従業員だけに偏っている。効果的な対策を打ち出すには生成AI、それもAIエージェント側にも教育が必要だという。

「意識低い系AIエージェント」のセキュリティリスク　どう対策するか

　このような考え方を主張するのはKnowBe4だ。同社はこれまで、セキュリティにおける「人的要因」に着目し、世界で7万社以上、日本国内においても過去5年間で5000社を超える企業にソリューションを提供してきた。同社の「ヒューマンリスクマネジメント」の知見を、新たにAIエージェントの防御という領域へと拡張する。

　AIの急速な普及は、業務効率化の福音になると同時に、企業に未知のセキュリティリスクをもたらしている。来日したKnowBe4のブライアン・パルマ氏（社長兼CEO）が2025年11月に開催された説明会で提示したデータは、AIの導入がもはや避けられない潮流であり、同時に新たな脆弱（ぜいじゃく）性を生み出していることを示した。

KnowBe4のブライアン・パルマ氏

　Gartnerの予測＊によれば、2026年までにエンタープライズアプリケーションの40％がタスク特化型のAIエージェントと統合されるとされている。ユーザーにとっては利便性が増す朗報だが、同時に攻撃対象領域が爆発的に拡大することも意味する。さらに深刻なのは、従業員の43％が会社から承認されていないAIツール、いわゆる「シャドーAI」に機密性の高い業務情報を共有した経験を持つという実態だ。経営層もこの問題に無関心ではなく、ビジネスエグゼクティブの28％が自社のAIに対する信頼の欠如を主要な課題と認識している。さらに、Fortune 500企業の60％が「Microsoft Copilot」を利用しており、特定プラットフォームへのリスク集中も看過できない。

＊Gartner Predicts 40% of Enterprise Apps Will Feature Task-Specific AI Agents by 2026, Up from Less Than 5% in 2025（Gartner）

AIエージェントを取り巻く状況（提供：KnowBe4）

　こうした状況を踏まえ、パルマ氏は「AIエージェントの導入は『もし』ではなく『いつか』の問題だ」と述べ、これが全ての企業にとって避けては通れない課題だということを指摘した。この新たな脅威に対し、従来の技術的な防御策だけでは不十分なことは明らかだという。

「ヒューマンレイヤー」から「エージェントレイヤー」への拡張

　組織のAI環境を守るためには、「ガードレール」が必要だ。KnowBe4が提唱する新たなセキュリティの考え方は、同社が持つ「人間」についての知見を、AIへと拡張するものだ。パルマ氏は、現代のセキュリティには「ヒューマンレイヤー」と「エージェントレイヤー」という2つの重要な要素が存在すると指摘した。

人とAIの協働体制にある2つのレイヤー（提供：KnowBe4）

　そもそもヒューマンリソース領域を得意としてきた同社が、なぜAIエージェントのセキュリティに取り組むのだろうか。パルマ氏はこの点について、人間社会で経験を積んできた大人と、善悪の判断基準を持たないAIでは「前提条件が全く異なる」と述べる。だからこそ、体系的な教育が必要になるというのがパルマ氏の回答だ。同氏は「AIエージェントを配備することは、社会経験のない子どもを世に送り出すようなものだ」と述べつつ、「われわれは人間に向けた教育と同じことをAIエージェントにも施す。なぜならAIエージェントも人間と非常によく似た脆弱性を持つからだ」（パルマ氏）とした。

　「われわれのプラットフォームは、人間を組織最大の資産に変えてきた。これからはAIエージェントも同様に資産に変えていく」（パルマ氏）

AIエージェントを「鍛える」ための技術的アプローチとは

　これらのビジョンを具体化したものが、2026年4月にリリースを予定している「HRM+プラットフォーム」だという。このプラットフォームはAIエージェントを継続的に教育して、組織の戦力へと変えるための一連のサイクルとして働く複数の機能を統合している。組織のポリシーに合わせたガードレールを作った後、AIエージェントが悪意のあるプロンプトやデータポイズニング攻撃にさらされたり、機密情報を不適切に共有したりすることを防ぐ。

　現状を可視化する機能も用意する。「リスクスコア化機能」だ。人間とAIエージェントの対話や行動を継続的に分析して、フィッシングやディープフェイクといった脅威への対応能力を評価することで、組織内のリスクレベルを定量的に可視化する。これにより、自社のセキュリティ態勢を同業他社と比較することも可能になる。リアルタイムコーチングと監視機能などでインシデントを未然に防ぐことも目指す。

　このプラットフォームの当面の対応範囲は、「Microsoft Copilot」だ。将来的には企業が独自に開発したエージェントなど、特定のAIに依存しない形でのサービス提供も目指す。

日本市場で高まるセキュリティ意識に応える

　KnowBe4のグローバル戦略は、日本市場においても強い追い風を受けているという。

　KnowBe4 Japanの力一浩氏（職務執行者社長）によれば、「過去5年間、順調に伸びてきている」という。昨今は、特に「強いモメンタムを感じている」と力氏は語る。力氏は「CIO、もしくはCISOのような役職も日本で増えており、セキュリティ対策が行き届いていなかったり、経営から現場まで『自分ごと』になっていなかったりしていたことに気がついたお客さまが増えた」と述べた。

　その背景にはランサムウェア攻撃の頻発やサプライチェーン全体を巻き込むリスクへの懸念がある。これが日本企業の間で急速に高まるセキュリティへの危機感につながっているのだという。

ブライアン・パルマ氏（左）とKnowBe4 Japanの力一浩氏（右）