社内のAIリスクを最短1週間で診断 攻撃や漏えいの弱点を洗い出すサービス登場
生成AIやAIエージェントの利用が広がる中、ProVisionはAIシステムに特有の脆弱性を診断するサービスの提供を開始した。テキストだけでなく、画像や音声、文書など入力形式ごとの攻撃シナリオや情報漏えいリスクを確認し、最短1週間で診断結果をまとめるサービスだ。
AIが読み込むデータに悪意ある指示を仕込むプロンプトインジェクションや、画像由来の意図しない個人情報出力など、予想外の脆弱(ぜいじゃく)性を抱えてしまう可能性がある。
そのような課題解決に向けてProVisionは、「AIシステム脆弱性クイック診断」の提供を開始した。AIシステムのプロンプトインジェクションや機密情報の漏えいなどを検証するサービスだ。AIチャットbotや社内文書検索AI、RAGシステム、AIエージェントなどを対象とし、通常のシステムテストだけでは把握しにくいAI特有のリスクを確認する。
↓
社内のAIリスクを診断 テキストや画像などデータ別チェックを最短1週間で
診断では、入力形式を問わず重要となる共通の基礎診断に加え、テキストや画像、音声など、対象システムが扱う入力形式に応じた重点診断を実施する。
テキスト・チャットでは、多言語やエンコードによるフィルター回避、外部URLや検索結果を経由した間接的なプロンプトインジェクションなどを確認する。画像では画像内に埋め込まれた指示や、画像に含まれる個人情報や機密情報の意図しない処理を検証する。
音声については、音声化した指示による誤動作や、音声を起点とした過剰な自動操作、雑音や背景音の誤処理などを確認。PDFなどの文書や、「Microsoft 365」については、文書やデータに埋め込まれた指示による意図しない動作、RAGを介した機密情報の漏えいなどを診断対象とする。
これにより、AIシステムがどの入力経路を利用するかに応じて診断項目を変える構成となっている。診断項目は、OWASPが公開する指標「OWASP Top 10 for LLM Applications」を軸に設計した。診断実施からレポート提出までは最短1週間としているが、診断内容や対象システムの構成によって実施期間が前後する場合がある。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
ニュースピックアップ
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
Googleの自動化ツール「Workspace Studio」×Gemini、4つの業務効率化アイデア
-
2
7歳からのLinux愛好家が、なぜ今「Windows」に? OSの見方が変わった理由:896th Lap
-
3
そのIT資格、これからも評価されますか? 5年のデータで見る「廃れる資格」「化ける資格」
-
4
「Gemini Notebook」になって何が変わった? NotebookLMからの変更点をおさらい
-
5
ゼロから分かる「Python in Excel」 プログラミング未経験の筆者がデータ分析してみた
-
6
ChatGPT「Pro」プランで新規加入を一時停止 GPT-6 Astraの「前例のない」需要で
-
7
M365 Copilotを配っても「使われない」 でもAI活用が進んだ福島県庁の"逆張り"戦略
-
8
その見積書、ChatGPTに入れて大丈夫? 現場で迷わない「OK/NG」の線引き
-
9
AIを入れても会社の仕事は変わらない AIに仕事を任せられない「根本原因」
-
10
「Gemini 3.8 Flash」の狙いは“賢さ”ではない? 発表から見えた3つのポイント
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー