AIがAIを襲う時代に重要な「AIを守る」と「AIで守る」 情シスが知りたい防御の鉄則は
脆弱性の探索から侵入までのスピードが加速して従来の人手中心のセキュリティ運用は限界を迎えつつある。AIエージェント自体が新たな攻撃対象となるリスクも無視できない。マシンスピードで仕掛けられる攻撃に対抗しつつ、社内のAIを安全に活用するためには何が必要なのか。
脆弱(ぜいじゃく)性の発見能力と攻撃コード(Exploit)の作成能力を飛躍的に高めたフロンティアAI「Claude Mythos」の登場を境に、サイバー攻撃のスピードは従来の常識から大きく外れ始めている。
ラックのセキュリティ監視サービス「JSOC」(JAPAN Security Operation Center)の観測によると、人間がツールを使って攻撃していた1~2年前までは、新たな脆弱性とアップデートが公開されてから数日後に攻撃通信が増えるのが一般的だった。しかし現在は攻撃者自身がAIで脆弱性を探索して、アップデート公開と同時に、あるいは公開前から即座に攻撃を仕掛ける、文字通りのゼロデイ攻撃による被害が相次いでいる。
同社の仲上竜太氏は、「少なくともCVEとアップデートが出た際に即座に適用しないと間に合わないスピード感になっている」と指摘する。
金融業界を例に挙げると、金融庁は2026年5月に「フロンティアAIによる脅威変化を踏まえた金融機関等の短期的な対応」に係る要請を出しており、経営課題としてフロンティアAIへの対応を求めている。
しかし「サービスを止めてしまうと金融庁への報告が求められる一方で、パッチも適用しなければならないため、システムインテグレーターも含めて対応や工数確保などに苦労していると聞きます」と仲上氏は語る。AIの能力がますます向上する中、どのようなプロセスでパッチ対応を進めるかが課題になっている。
「悪用までの速度が加速している上に、AIは『まんべんなく』攻撃してきます。過去に一時的に作成したキャンペーンサイトや開発環境・ステージングサーバといった、自分たちが管理し切れていなかったものを踏み台にされたり、情報が抜かれたりしています」
一方で、防御側の体制は追いついていない。仲上氏は、企業にとって最も重要な領域から優先順位を付けて対策を進め、「侵入されること」を前提とした備えを講じるべきだと指摘する。その上で、可視化の強化や攻撃の早期検知にAIを活用しつつ、仮に侵入されても被害を初期段階で食い止めて事業を継続できるよう、復旧力を高めていく必要があるという。
社内で動くAIエージェント自体も攻撃対象に
AIエージェントの登場に伴い、サイバーセキュリティの考え方はどのように変化するのだろうか。
従来のチャット型AIは、人間がプロンプトで逐一指示を出して回答を得るのが基本だった。これに対してAIエージェントは目的を与えれば自律的に手順を考え、コードの記述や外部システムへのアクセスといった作業まで自ら実行できる。
攻撃者によるAIの悪用や、企業のAIを狙った攻撃はもはや避けられない。そのため企業には「AIをどう守るか」と「AIをセキュリティ対策にどう生かすか」という2つの視点が求められる。
まず考慮すべきは「AIに対する攻撃」の発生だ。
「これまでのサイバー攻撃では人や装置が狙われてきました。人のミスを突いて侵入ポイントを突く攻撃は依然として大きな脅威ですが、これからはAIエージェント自身も攻撃対象になります」
代表的な手法が「プロンプトインジェクション」だ。通常の業務指示に見せかけて不正な命令を仕込み、AIを欺いて機密情報を外部にアップロードさせる。また、人間と同様にAIエージェントに対しても「Non-Human Identity」(NHI)として適切なアクセス権限を管理しなければならない。権限管理が不十分だと、本来は閲覧させるべきではない機密ファイルなどをAIエージェント経由で読み出される恐れがある。
さらに、実行基盤側でAIエージェントを制御する「スキル」や「プラグイン」といった拡張機能に不正な命令を忍び込ませる攻撃や、MCPサービスの改ざん、チャットbotに大量のコンテキストを送り込んでトークンを浪費させる「エコノミックDoS」などのリスクも指摘される。
「AI自身が新しいアタックサーフェスとして侵害のターゲットになっていることを踏まえてセキュリティ対策をする必要があります」
こうした状況の対策として、AIを安全に使用するための「Security for AI」の考え方が必要だという。
既に、AIに入力される文字列をチェックしてプロンプトインジェクションを防ぐ「AIエージェントファイアウォール」やMCPサーバの保護、シャドーAIの検知のための製品の整備が進んでいる。
AIが悪用されるのを防ぐには、NHIを含めたID・権限管理で実行範囲を制限したり、「Microsoft Agent 365」のような管理ツールでエージェントの機能を制御したりする対策が有効だ。従来のDLPの延長で機密データの持ち出しを封じ込める手法や、これらを一元管理する「AIセキュリティポスチャーマネジメント」の導入という策もある。
「今後、プラットフォームとしてAIエージェントの力を業務に生かそうと考える企業も多いでしょう。しかし、AIのセキュリティに適切に取り組まなければ、AIに対する攻撃に気付けない恐れがあります」
AIで何ができるのか、どんなリスクがあるのかを改めて評価して適切な対策を取る必要がある。
人間ではなく、人間に成り代わって活動する「AI攻撃者」への対策も
昨今、サイバー攻撃の組織化・エコシステム化が進んでいることは度々指摘されている。サイバー攻撃者が役割分担してマーケットでやりとりしながらサイバー攻撃を展開し、匿名性の高い金銭を手にしてきた。
「エコシステムを通して顔も知らない誰かに依頼して、報酬を支払っても本当にやってくれるか分からないリスクを抱える綱渡り的な状況によって、サイバー攻撃の件数が抑えられてきた部分もありました。しかしAIエージェントを使うことで、サイバー攻撃を誰もが気軽に実行できるのが現状の問題点です」
仲上氏はこうした動きを「エージェント型脅威アクター」と呼び、攻撃のハードルが下がっている現状に警鐘を鳴らす。
自律的に動くAIエージェントがサイバー攻撃に転用されると、ゼロデイ脆弱性の探索や攻撃コードの生成、侵入経路の特定といった攻撃シナリオを自ら組み立て、侵入から攻撃の完遂まで自動で実行する。既に「ARTEX」のようなツールも登場しており、侵入から管理者権限の奪取に至るまで、従来は人間の攻撃者が担っていた工程の大半が自動化されている。
「目的を達成するためにやれることは全部やるのがAIです。24時間365日、いろいろなサイトをたたいて回り、入れそうであれば侵入して情報を取ってくる。そうした攻撃が絶え間なく仕掛けられています」
AIのコンテンツ生成能力にも注意が必要だ。かねて指摘されてきたことだが、フィッシングメールやSNSのなりすまし、ビジネスメール詐欺などで、AIで作成した本物そっくりのコンテンツが用いられるようになった。
「Teams」や「Slack」に社長の名前で入ってきて、友達申請やダイレクトメッセージが送られてくるといった詐欺も報告されており、ラック自身もそうした手口に直面したという。
仲上氏は、攻撃に用いられるAIエージェントツールがAIエージェントによって開発される「AIによる攻撃の負の連鎖」も既に始まっていると指摘する。
「ここ数カ月は、サイバー攻撃者という人間との対決ではなく、人間に成り代わって24時間365日脅威アクターとして活動するAI攻撃者をいかに防ぐか、という局面になっています」
AIが関与している可能性が高い攻撃事例は数多く報告されている。攻撃がマシンスピード化する中、サイバーセキュリティ担当者をはじめとする防御側も、AIの力を生かした「AIによるセキュリティ」を実践しなければならないと仲上氏は説く。
セキュリティ装置の監視・運用にAIエージェントを利用して攻撃への初動対応を高速化する「AI SOC」はその代表例だ。加えて、人手不足の情シスにとって負担が大きい報告書作成や監査対応をAIに任せることで、作業の漏れを抑えつつ資料作成を効率化できる。これまで工数の都合で年1回程度が限界だったIT資産の棚卸しも、月1回や週1回ペースで実施できるようになる。
防御側のAI活用は、WAFなどのセキュリティ機器で未知の攻撃を検知・防御するルールの自動作成や、システム・ソースコードの脆弱性診断といった領域にも広がりつつある。もっとも、現時点では何でもAIに任せられるわけではない。
「私たちもAIを用いたペネトレーションを実施しています。ただ、コントロールが難しい部分があることも分かってきたため、部分的にAIを使う現実的な路線で進めています」
SBOMの作成やIT資産管理、脆弱性管理にAIを活用するアプローチもある。情シスにとって、パッチ適用の可否は業務への影響を見極める難しい判断だ。判断に迷えばそれだけ対応が遅れてしまう。
「SBOMをしっかり作り、ソフトウェアの設定状況を管理する。そこに『これは経理系で使っているシステムだから絶対に止めてはいけない』といったIT資産のビジネス価値を組み合わせることが、パッチ適用のスピード感を高める上で重要になります」
攻撃シミュレーションや訓練データの作成、脅威インテリジェンスの連携といった事前対策・分析の領域にもAIを活用できる。特に脅威インテリジェンスは、従来の受け身の運用からの転換が迫られている。
「これまで観測された事象を蓄積して生かす従来の脅威インテリジェンスの考え方では通用しなくなっています。これからは、攻撃者の攻撃パターンやツールの特性を踏まえて先回りし、次に何が起こるのかを『予測』することが重要になります」
AIが導き出した予測をそのまま自動化するのではなく、ヒューマン・イン・ザ・ループ(人間の判断を介在させる仕組み)の中で人間がいかに判断して現場の運用に統合するかが問われている。
本稿は、2026年10月21日に開催されたJapan IT Week(主催:RX Japan)のラックの講演「本格AI時代に企業を守るセキュリティ対策と脅威インテリジェンス」の内容を基に、編集部で再構成した。
Copyright © ITmedia, Inc. All Rights Reserved.
イベントレポートアーカイブ
この記事の著者
関連記事
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
「PHP騒動」大反省会 今振り返る脆弱性騒動の原因と、今後取るべき対策
-
2
Google Workspaceの最新7機能をチェック Geminiへの指示共有や最大14日間のフロー待機など
-
3
クレディセゾンはなぜChatGPTでROI954%・年169時間削減を達成できたのか
-
4
ネットで話題の「C++」新仕様にまさかのストップ 決定目前で、一体何が?:905th Lap
-
5
デキるプログラマーほど「AI任せ」を嫌う、エージェント型開発のちょっと怖い話:904th Lap
-
6
JR九州の非IT部門がGeminiでPythonアプリを内製開発 2~3カ月で完成させた方法
-
7
「Microsoft 365」大規模障害、原因はサーバの正常性チェックか
-
8
AIの本格運用に潜むトークン消費増とガバナンス負担 企業の約9割が再設計を迫られる実態
-
9
廃れた「Visual Basic」が残した負の遺産 「プログラム以外」の厄介な問題とは
-
10
Outlookで深刻な脆弱性、ファイルを開くだけで情報漏えいの恐れか 悪用も確認
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー