生成AIの脅威に企業は無防備？ ITリーダーの9割が不安を抱える深刻な実態

生成AIを利用したサイバー攻撃に企業側がどの程度脅威を感じているのかを調査した報告書が発表された。果たして企業は自信を持っているのだろうか、それとも不安が募っているのだろうか。

[Eric Geller，Cybersecurity Dive]

　2025年は生成AIなどのAI技術を利用したサイバー攻撃が本格化した年だと記憶されるだろう。

　生成AIの脅威に企業側はうまく防衛できるのだろうか。Lenovoは2025年9月19日（現地時間、以下同）に「Reinforcing the Modern Workplace against AI Threats」と題した報告書を公開した（注1）。

　多くの企業がAIを活用した攻撃について、自社のネットワークが安全ではないという不安を抱えていることが分かった。

生成AIの脅威に企業は無防備？ ITリーダーの9割が不安を抱える深刻な実態

　まず、AIによる攻撃から自社を守れるかどうかという質問に「ある程度は自信がある」と答えたITリーダーはわずか31％にとどまった。

　報告書では、ITやセキュリティの責任者が攻撃者によるAIの活用を懸念している理由や、自社が使っているAIシステムを脆弱（ぜいじゃく）だと感じている理由が掘り下げられている。

　報告書によると、AIへの不安は広く浸透しており、調査対象となったITリーダーのうち「攻撃に活用されるAIのリスクに十分対応できる強い自信を持っている」という回答はわずか10％にとどまった（注2）。Lenovoはこの懸念は正当だと指摘した。なぜなら、AIは従来型のセキュリティプラットフォームの回避を含め、防御メカニズムに向かって進化して適応した後に攻撃を続けるからだ。

報告書が挙げたAI関連のリスクと対処策とは

　報告書はAI関連のリスクは広い範囲に散らばっていると指摘している。

　主に従業員が原因になるのは「シャドーAIの使用」だ。許可を得ていないパブリックAIツールを従業員が使うことで、企業にとっての重要データや個人情報の漏えいが起こりかねないことが問題だとしている。明示的なポリシー設定と管理が必要な他、従業員とAIシステムの両方が必要とするデータのみにアクセスできるように権限を管理し、監視することが解決策だ。

　外部からの脅威は「AIモデルの操作」と「モデルポイズニング、データポイズニング」「AI駆動型マルウェア」だ。AIモデルの操作やモデルポイズニング、データポイズニングについては、外部からの危険な操作を防止する内部統制と管理が有効だとしている。

　AI駆動型マルウェアの危険性は、攻撃者が人を超えたスピードで攻撃を進めるため、これまでの防御策が動き始めるよりも前に回復不能な損害を引き起こす可能性があることだ。企業はこれまでの断片化された監視体制から脱却し、異なる領域（ドメイン）から得られるシグナルをリアルタイムでAI処理する能力が必要だとした。

　報告書では触れていないものの、このような能力を得るためには異なる領域からシグナルを得るSIEM（Security Information and Event Management）や通常とは異なる従業員の行動パターンを検知するUEBA（User and Entity Behavior Analytics）から得たデータをAIで統合するような仕組みが望ましいと考えられる（キーマンズネット編集部）。

　攻撃に活用されるAIは、ITリーダーが挙げたサイバーセキュリティ上のリスクの中で唯一のものではないが、最も懸念が深い分野だ。回答者のおよそ3分の2の61％が、リスクが高まっている分野として攻撃に活用されるAIを挙げており、そのうち「十分またはある程度対応できる自信がある」と答えたのはわずか31％だった。

　ITリーダーは従業員によるパブリックなAIツールの利用についても懸念している。約半数がこれを新たな懸念事項として挙げており、リスクを軽減できると自信を持って答えたのは36％に過ぎなかった。さらに、42％の回答者は「自社におけるAIエージェントの導入がサイバーセキュリティのリスクを高めている」と回答しており、リスクを軽減できる自信を示したのは37％にとどまった。

　調査によると、AIエージェントは「新しい形の内部脅威」をもたらしており、ITリーダーの60％以上が「脅威に対処する準備ができていない」と回答した（注3）。これはAIモデルを改ざんや悪用から保護することの必要性を浮き彫りにしている。AIの利用が広がるにつれ、こうした手口は攻撃者の間でますます一般的になると予想されている。

　Lenovoのティアゴ・ダ・コスタ・シルバ氏（デジタルワークプレイスソリューション部門 セキュリティサービスディレクター）は報告書の中で次のように記した。

　「企業がAIプラットフォームの導入を急ぐあまり、それによって新たに生じる潜在的な脅威や攻撃経路を見落としてしまう可能性がある」

　従来型の防御製品は依然として重要だが、全ての製品がAIに関連するリスクに十分対応できるわけではない。

　ITリーダーの半数以上は「自社のエンドポイントセキュリティソリューションはAIを活用した攻撃に対抗するのに十分だ」と回答しているが、脆弱性分析や脅威分析の能力について自信を示したのは3分の1にとどまった。また、回答者たちは、サイバー防御の要となるインシデント対応およびID管理ツールの準備状況についても、同程度の不安を表明した。

　なお、Lenovoの報告書は米国（調査対象の17％）や英国（同8％）、日本（同8％）など12カ国の従業員1000人以上の企業に所属する600人のITリーダーを対象としたもので、調査期間は2025年4〜5月だ。

出典：Evolving AI attacks, rapid model adoption worry cyber defenders（Cybersecurity Dive）
注1：Reinforcing the modern workplace.（Lenovo）
注2：AI-powered attacks rise as CISOs prioritize AI security risks（Cybersecurity Dive）
注3：AI security issues dominate corporate worries, spending（Cybersecurity Dive）