社内のAIリスクを最短1週間で診断 攻撃や漏えいの弱点を洗い出すサービス登場
生成AIやAIエージェントの利用が広がる中、ProVisionはAIシステムに特有の脆弱性を診断するサービスの提供を開始した。テキストだけでなく、画像や音声、文書など入力形式ごとの攻撃シナリオや情報漏えいリスクを確認し、最短1週間で診断結果をまとめるサービスだ。
AIが読み込むデータに悪意ある指示を仕込むプロンプトインジェクションや、画像由来の意図しない個人情報出力など、予想外の脆弱(ぜいじゃく)性を抱えてしまう可能性がある。
そのような課題解決に向けてProVisionは、「AIシステム脆弱性クイック診断」の提供を開始した。AIシステムのプロンプトインジェクションや機密情報の漏えいなどを検証するサービスだ。AIチャットbotや社内文書検索AI、RAGシステム、AIエージェントなどを対象とし、通常のシステムテストだけでは把握しにくいAI特有のリスクを確認する。
↓
社内のAIリスクを診断 テキストや画像などデータ別チェックを最短1週間で
診断では、入力形式を問わず重要となる共通の基礎診断に加え、テキストや画像、音声など、対象システムが扱う入力形式に応じた重点診断を実施する。
テキスト・チャットでは、多言語やエンコードによるフィルター回避、外部URLや検索結果を経由した間接的なプロンプトインジェクションなどを確認する。画像では画像内に埋め込まれた指示や、画像に含まれる個人情報や機密情報の意図しない処理を検証する。
音声については、音声化した指示による誤動作や、音声を起点とした過剰な自動操作、雑音や背景音の誤処理などを確認。PDFなどの文書や、「Microsoft 365」については、文書やデータに埋め込まれた指示による意図しない動作、RAGを介した機密情報の漏えいなどを診断対象とする。
これにより、AIシステムがどの入力経路を利用するかに応じて診断項目を変える構成となっている。診断項目は、OWASPが公開する指標「OWASP Top 10 for LLM Applications」を軸に設計した。診断実施からレポート提出までは最短1週間としているが、診断内容や対象システムの構成によって実施期間が前後する場合がある。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
ニュースピックアップ
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
Javaアプレットは、なぜ今も情シスを悩ませる? 残った業務システムの“延命”問題
-
2
「Claude」3倍高速化の裏で、Anthropic開発者が「あえてしなかったこと」:899th Lap
-
3
AIエージェントでサイバー攻撃は100倍速に 2026年最新事例から見る防御策とは
-
4
CodexやClaude Codeが作ったアプリ、実は「未完成」かも 本当に「完成」させる“5つの条件”
-
5
資料を食わせるだけで自動化できる、「NotebookLM」の"ズルい"使いこなし術
-
6
自治体、企業で進む「Google回帰」 事例で分かる「Gemini Notebook」の活用アイデア
-
7
Excelの10万行データを3分でAIに処理させる、M365 Copilotの使い方
-
8
なぜ、Microsoft 365 Copilotは「会社の仕事を理解する」のがうまいのか?
-
9
「閉じた環境」で生成AIをどう使うか 大分市が「庁内だけで使える環境」を構築
-
10
今日から始める「AIエージェント」入門 ~Gemini Enterprise編~
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー