「生成AIはソーシャルエンジニアリングや攻撃の自動化の改善のために使われている。だが、新しい攻撃手法が導入されたわけではない」

　一部の専門家は生成AIが攻撃者の手法に革命を起こすと予測した。特定の目的や標的に合わせてカスタマイズした侵入ツールの作成や、個人情報やコンピュータの記録の窃取、HDDのデータ消去に利用するマルウェアなどを、初歩的な攻撃者でも短時間で作成できるようになるというのだ。

　「AIコーディングアシスタントは、生成AIの価値を最も強く発揮できる代表的な使い道だ。われわれは驚異的な速度で攻撃者の生産性が向上する実態を目の当たりにしている」（ファーストブルック氏）

　HPの研究者は2024年9月、攻撃者が生成AIを使って、リモートアクセス型トロイの木馬「AsyncRAT」を作成したと発表した（注1）。ファーストブルック氏はこれを引用して、「攻撃者が生成AIを使って新たなマルウェアを作り出そうとしないはずがない。その兆候が現れ始めている」と述べた。

　攻撃者が生成AIを悪用する方法は他にもある。オープンソースソフト（OSS）のユーティリティーの偽物を作成し（注2）、開発者が気付かないうちにアプリケーションにそのOSSを組み込ませるという方法だ。

　「開発者が不注意で間違ったOSSユーティリティーをダウンロードした場合、本番環境に投入される前のアプリケーションにバックドアを仕込まれる可能性がある」（ファーストブルック氏）

　このような攻撃は生成AIが登場する前から存在した。しかし、生成AIの登場により、「GitHub」のようなコードリポジトリを圧倒するほどのスピードでマルウェアを仕込んだパッケージを拡散できるようになった。さらに、リポジトリ側は悪意あるパッケージを十分な速さで削除できていない。

　「まるでいたちごっこだ。攻撃者は生成AIを使って、悪意あるコードを含んだパッケージを以前よりもはるかに速く世に公開できるようになった」（ファーストブルック氏）

ディープフェイクで金銭の被害に遭った組織は5％

　生成AIを従来型のフィッシング攻撃に組み込むケースも増えている（注3）。だが、ファーストブルック氏によると、現時点では影響は限定的だという。Gartnerの調査結果によると、28％の組織はディープフェイク音声を使った詐欺被害を（注4）、21％の組織がディープフェイク映像を使った詐欺被害を、19％の組織がディープフェイク映像を使った生体認証の擦り抜けを経験したことがあるという。それでも、ディープフェイク攻撃によって金銭や知的財産を盗まれた組織は、わずか5％にとどまっている。

　生成AIが特定の種類の攻撃から得られる利益を高める恐れがあるという声がセキュリティの専門家から上がっている。生成AIを使うことで、攻撃の量を大幅に増加できるためだ。ファーストブルック氏は、「もし私が営業部門の担当者で、通常100件に営業を掛けて1件契約が取れるとする。200件に営業を掛ければ売り上げは倍になる。攻撃者も同じだ。攻撃の全工程を自動化できれば、攻撃が迅速化する」

　「今のところ、そのような事態には至っていない。しかし、私たちの懸念は遠くないうちに現実になる可能性がある」（ファーストブルック氏）

　ファーストブルック氏は、米国のIT研究団体MITREが提供している「MITRE ATT＆CK」（攻撃者の戦術を分析してノウハウ化したナレッジベース）のデータを示し、次のように述べた。「新しい攻撃手法が登場するとしても1年に1件から2件程度と推測している」