社内のAIリスクを最短1週間で診断 攻撃や漏えいの弱点を洗い出すサービス登場
生成AIやAIエージェントの利用が広がる中、ProVisionはAIシステムに特有の脆弱性を診断するサービスの提供を開始した。テキストだけでなく、画像や音声、文書など入力形式ごとの攻撃シナリオや情報漏えいリスクを確認し、最短1週間で診断結果をまとめるサービスだ。
AIが読み込むデータに悪意ある指示を仕込むプロンプトインジェクションや、画像由来の意図しない個人情報出力など、予想外の脆弱(ぜいじゃく)性を抱えてしまう可能性がある。
そのような課題解決に向けてProVisionは、「AIシステム脆弱性クイック診断」の提供を開始した。AIシステムのプロンプトインジェクションや機密情報の漏えいなどを検証するサービスだ。AIチャットbotや社内文書検索AI、RAGシステム、AIエージェントなどを対象とし、通常のシステムテストだけでは把握しにくいAI特有のリスクを確認する。
↓
社内のAIリスクを診断 テキストや画像などデータ別チェックを最短1週間で
診断では、入力形式を問わず重要となる共通の基礎診断に加え、テキストや画像、音声など、対象システムが扱う入力形式に応じた重点診断を実施する。
テキスト・チャットでは、多言語やエンコードによるフィルター回避、外部URLや検索結果を経由した間接的なプロンプトインジェクションなどを確認する。画像では画像内に埋め込まれた指示や、画像に含まれる個人情報や機密情報の意図しない処理を検証する。
音声については、音声化した指示による誤動作や、音声を起点とした過剰な自動操作、雑音や背景音の誤処理などを確認。PDFなどの文書や、「Microsoft 365」については、文書やデータに埋め込まれた指示による意図しない動作、RAGを介した機密情報の漏えいなどを診断対象とする。
これにより、AIシステムがどの入力経路を利用するかに応じて診断項目を変える構成となっている。診断項目は、OWASPが公開する指標「OWASP Top 10 for LLM Applications」を軸に設計した。診断実施からレポート提出までは最短1週間としているが、診断内容や対象システムの構成によって実施期間が前後する場合がある。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
ニュースピックアップ
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
京都府庁、職員7000人の事務効率化で「Copilotだけに頼らない」と決めた理由
-
2
AI普及でITエンジニア採用難易度が上昇 求められるスキルが上がった職種は?
-
3
「高度なAIスキル」だけではもう食えない? IT人材が答えた「これからの必須スキル」
-
4
「PHP脆弱性祭り」にサーバ高騰……情シスに安息の日は来るのか?
-
5
「Gemini Notebook」で始める「AI×自動化」実践ガイド
-
6
「パスキーはワナだ、使うな」にネット騒然 プロが“待った”をかけるワケ:902nd Lap
-
7
トヨタ工場停止の教訓 「取引先の穴」が自社を止める、サプライチェーン対策の課題
-
8
今、IT資格を取るならどれ? ランキングに見る「急浮上の資格」と「不動の資格」
-
9
なぜ、突如「PHPパニック」は起こったのか? 緊急メンテ続出の理由とその後
-
10
警視庁、金融庁、IPA――相次ぐセキュリティ注意喚起、8機関の要請を整理 今すぐ確認すべき3点
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー