AIエージェントの無制限の利用が招く致命的な末路

企業におけるAIエージェントの無制限な利用は情報漏えいやデータ破壊などの深刻なリスクを招く。日本や米国の政府機関は安全な運用が可能になる標準的なルールを公開しておらず、いまから着手するという段階だ。

[Eric Geller，Cybersecurity Dive]

　AIエージェントを無制限に利用すると、情報漏えいや認証情報の漏えい、データの破壊など致命的な結果をもたらす可能性がある。

　だが、どうすればAIエージェントを安全に使うことができるのか、一般的なガイドラインはあるものの、それを順守するだけで安全が守られるかどうかは分かっていない。

AIエージェントを利用する際の安全策とは

　AIエージェントを安全に利用する一般的な方針は、次の通りだ。なお、AIエージェントに必要最低限のアクセス権限だけを与えることは前提条件だ。

社内情報の漏えい防止

・エンタープライズAPI契約を結んで、社内情報を学習に利用されないようにする
・入力データを自動的にマスキングできるツールを導入する

認証情報の漏えい防止

・システムプロンプトにAPIキーを記述しない
・環境変数やシークレットマネジャー経由でキーを渡す
・エージェントのログにキーが出力されないように設定する

データの破壊を防ぐ

・データベースにはリードオンリーユーザー権限で接続する
・データベース操作では「DELETE／DROP文」の実行を監視してブロックする
・データベースの更新処理の前にユーザーによる承認フローを設ける

不正コードの実行を阻止する

・コード実行はネットワークから隔離されたコンテナ内にとどめる
・暴走に歯止めを掛けるために実行時間にタイムアウト設定を設ける

ログの取得

・AIエージェントの行動ログや監査ログを取得できるようにする

（キーマンズネット編集部）

　だが、日本や米国の政府機関は生成AIの安全な利用やリスク管理について指針やガイドラインを提供しているが、現在AIエージェントに特化したものはない。

AIエージェントの無制限の利用が招く致命的な末路

　AIエージェントを安全に利用するためには、国が定める標準的な規約が必要だろう。そこで、米国国立標準技術研究所（NIST）は、AIエージェントのセキュリティリスクを管理するアプローチについて一般からの提案を求めた。

　2026年1月8日（現地時間、以下同）に掲載した連邦官報の告示において（注1）、NISTのAI標準・イノベーションセンター（CAISI）は（注2）、AIエージェントシステムの安全な開発や展開を測定して、改善する実践や方法論に関する情報や知見を募集した。締め切りは2026年3月9日だ。

　今回の一般参加型の取り組みは、普及期に入ったAIエージェントにはセキュリティの脆弱（ぜいじゃく）性が含まれているのではないかという根強い懸念を反映したものだ。多くの企業は欠陥を十分に理解したり、対策計画を策定したりしないままAIエージェントの導入を進めている。その結果、サイバー攻撃者がネットワークに侵入する新たな経路になってしまっている。適切に保護されていないAIエージェントに広範な権限を与えてしまうことが最も危険だ。健康や安全に不可欠な産業機械を含む重要インフラのネットワークに深刻な危険をもたらす可能性がある。

　募集文書の中で、NISTは次のように述べた。

　「これらのセキュリティリスクが放置されれば、公衆の安全に影響を及ぼし、消費者の信頼を損ない、最新のAIイノベーションの導入を抑制する可能性がある」

　テクノロジー企業や学術研究者、その他の一般参加者は、AIエージェントシステムの開発や展開、それに伴うリスクの管理や予測に関する自身の経験に基づいた具体的な事例またはベストプラクティス、ケーススタディ、実行可能な提言を提出できる。提言がまとめられた後は、日本の企業にとっても有用な情報が入手できるだろう。

　バイデン政権下で設立され、ドナルド・トランプ大統領の下で2025年に再編されたCAISIは、AIセキュリティに関する評価手法の開発やAIモデルの脆弱性テスト、業界と連携した任意のセキュリティ標準の策定を担当する。NISTは「一般からのフィードバックが、CAISIによるAIセキュリティリスクの評価や、AIシステムのセキュリティを測定および改善する技術的ガイドラインやベストプラクティスの策定に役立つ」と述べた。

　今回の募集では、AIエージェント特有のセキュリティリスクとエージェントを保護するために利用可能な技術的制御、エージェントが関与するサイバーインシデントを検知する手法の現在の成熟度などを含む、幾つかの具体的な質問について一般からの回答が求められている。

　他にもCAISIはAIエージェントの具体的な機能や導入方法がセキュリティ制御の有効性にどのような影響を与えるのか、また、どのエージェントのセキュリティ分野の研究に最も緊急性をもって取り組むべきかといった点についても意見を求めている。

出典：NIST asks public for help securing AI agents（Cybersecurity Dive）
注1：Request for Information Regarding Security Considerations for Artificial Intelligence Agents（DEPARTMENT OF COMMERCE）
注2：Center for AI Standards and Innovation (CAISI)（NIST）

原文へのリンク