Anthropic、悪用された832件のアカウントを分析 攻撃者はAIをどう使っているのか
Anthropicは、AIを悪用したサイバー脅威に関する分析結果を公表した。悪意ある活動で停止した832件のアカウントを調べたところ、AIの利用は攻撃準備だけでなく、侵害後の調査や横展開など、より複雑な工程にも広がっているという。
Anthropicは2026年6月3日、AIを悪用したサイバー脅威の分析結果を公表した。それによると2025年3月〜2026年3月にかけて悪意あるサイバー活動を理由に停止したアカウントのうち、詳細な評価が可能だった832件をセキュリティフレームワーク「MITRE ATT&CK」に照らして分析したところ、AIの活用が攻撃の初期段階だけでなく、侵害後の工程へ広がっていることが分かった。
攻撃工程で見えたAI悪用の変化
同社によると、最も多かったAI利用はマルウェア作成など攻撃準備に関わるもので、全体の67.3%(832件中560件)を占めた。一方で、侵害済みネットワーク内を移動する「ラテラルムーブメント」を支援する用途も6.5%(832件中54件)確認されたという。AI支援のフィッシング利用は8.6%減少したのに対し、侵害後に有効なアカウントを探すアカウント探索は8.9%増えており、同社はAI活用が攻撃ライフサイクルのより深い段階へ移っているとみている。
脅威評価の面でも、従来の見方が通用しにくくなっているという。調査前半の6カ月では「中リスク以上」と分類された攻撃者は33%だったが、後半の6カ月では56%に増えた。攻撃者の技術水準と使う手法数の相関は小さく、利用したインタフェースの違いもリスク水準と結び付きにくかったとしている。その代わり、AIを攻撃のどの工程に使うかや、複数段階を連続して処理する仕組みを組んでいるかどうかが、より重要な差になっていると分析している。
同社はこうした変化を踏まえ「MITRE ATT&CKだけではAI時代の攻撃者像を十分に表し切れない可能性がある」と指摘している。特に、AIが人手をほとんど介さずにコマンドの実行や脆弱(ぜいじゃく)性悪用、認証情報の窃取、次の行動判断まで担うような自律的挙動については、既存のATT&CK IDでは表現しにくいからだ。今後は、分析結果をモデルの安全対策に反映するとともに、MITREとも枠組みの進化に向けて協議しているという。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
生成AIの自動サイバー攻撃 成功率9割の脅威
イリノイ大学の研究チームは生成AI(GPT-4)を利用したサイバー攻撃の実験結果を公開した。攻撃の成功率を高める方法も分かった。
AI時代にサイバーセキュリティはどう変わるか どの企業でも必要な対策のポイントとは
AIを悪用した脅威やランサムウェアなど、サイバー攻撃の在り方が変化している。イー・ガーディアングループの徳丸氏はサイバー攻撃の脅威について述べ、AI時代に取るべき対処や企業が対策を施すべきポイントを解説した。
「AIがAIを攻撃」するサイバー空間の異変とは まずEDRがやり玉に
生成AIの悪用によりサイバー攻撃が高度化して、EDRを回避する手法やシャドウAIのリスクが拡大している。このような現状に対応するにはAIによる攻撃をAIで防御して、運用を自動化する「AI対AI」の態勢の強化が必要なのだろうか。