不正アクセスとコスト増大、どう防ぐ？ 職場で使う生成AIの5大リスクと正しい対処法

生成AIの業務活用において、不正アクセスやコスト増加、情報漏えい、ハルシネーションといった課題が情報システム部門の重要な検討事項となっている。

[齋藤公二，インサイト合同会社]

　業務基盤に「Microsoft Azure」（以下、Azure）を採用している企業は多く、生産性向上を目的に生成AIサービス「Azure OpenAI Service」の利用者も増加している。Azureは高い拡張性とセキュリティを兼ね備え、エンタープライズ用途に適しているが、一方で情報システム部門が頭を抱える解決すべき課題もある。

　アバナードの北山健大氏（アプリケーション & インフラストラクチャ　グループマネジャー）はAzure OpenAI Serviceに限らず、生成AIを利用している企業が抱える課題として「不正アクセス」「コストの増加」「情報漏えい」「ハルシネーション」「法規制対応の遅れ」の5つを挙げた。

　不正アクセスについては、ネットワーク設定の不備や権限の過剰付与によって発生し、退職者のアカウントを利用した業務データの不正使用も報告されている。コスト増加については、従量課金型サービスの過剰利用により請求額が想定を大幅に超えるケースがある。

　情報漏えいのリスクとしては、プロンプト入力を通じて意図せず機密情報が外部に流出する可能性がある。例えば、社内限定の製品原価情報が生成AIを介して他部門に漏れた事例もあるという。また、ハルシネーション、つまり事実に基づかない情報を正確なもののように出力する現象により、顧客対応で誤情報を提供し、クレームにつながるケースも確認されている。さらに、欧州連合（EU）のAI規制法などの法規制への対応が遅れると、欧州市場での事業展開に支障を来す恐れもある。

不正アクセスとコスト増大、どう防ぐ？　企業向けAIの盲点

　同氏によれば、Azure OpenAI Serviceユーザーが抱える課題に対する解決アプローチは、他の生成AIサービスにも幅広く応用可能だという。北山氏の解説を基に、これら5つのリスクに対する具体的な対策を以下に整理する。

　まず1つ目の「不正アクセス」への対策としては、AIの利用に限らず、「接続させない・使わせない」ための基本構成を徹底することが重要だという。

ネットワーク制御と権限制御の両面対策が必要（出典：イベント投影資料、筆者撮影）

　「不正アクセス対策の基本的な考え方は、従来のセキュリティと大きく変わりません。ネットワーク制御と権限制御の両面から対策を講じることが不可欠です。ネットワーク制御においては、物理的・論理的に通信経路を制限し、『そもそも接続できない』状態をつくることが基本です。一方で、仮にネットワーク的に接続できたとしても、適切な権限制御により『操作できない』状態を維持する必要があります。ネットワークが開放されていれば権限制御だけでは不十分であり、逆もまたしかりです。両者を組み合わせて対策することが、堅牢（けんろう）なセキュリティを実現する基本となります」（北山氏）

　具体的なネットワーク制御策としては、ファイアウォールやWAF、アプリケーションゲートウェイを活用した外部からのアクセス制限に加え、仮想ネットワーク内における「Azure Private Endpoint」の導入や、パブリックアクセスの無効化、VNet統合による外部公開の回避などが挙げられる。さらに、「Azure Network Security Group」（NSG）による通信制御や、Private Endpointを用いた内部限定の接続設計も有効だ。

　一方、権限制御の観点では、「Microsoft Entra ID」を活用した本人認証や、多要素認証による認証強化が基本となる。加えて、ロールベースアクセス制御（RBAC）や条件付きアクセスによって操作範囲を限定し、Azureリソースの「Managed ID」を活用することで認証キーの使用を最小限に抑えることが可能だ。また、「Azure Key Vault」により認証キーを安全に保管することで、情報漏えいのリスクを大幅に軽減できる。

　次に2つ目のリスクである「コスト増大」への対策としては、クラウドコストの最適化を図るFinOps（Financial Operations）の考え方が鍵になると北山氏は語る。

　「生成AIにおいても、コストの『見える化』『無駄の抑制』『リソースの最適化』という3つの観点から、継続的にコストを管理、最適化することが重要です。まず『見える化』によって費用を正確に把握し、無駄や異常を早期に察知できる体制を構築します。次に『無駄の抑制』では、シャドーITの防止や利用過多への対策を通じて、想定外のコスト増加を抑制します。最後に『リソースの最適化』として、過剰なリソース利用や高コストな構成を見直し、効率的な運用を実現することで全体としてのコスト健全化を図ります」（北山氏）

　具体策としては、「Azure Cost Management」を利用してAzure OpenAIのトークン使用量を常時モニタリングし、利用傾向の把握や異常の早期発見に役立てる手法がある。また、「Azure Policy」を活用して、あらかじめ定めた条件下でのみリソース作成を許可することで、不要なコストの発生を未然に防ぐことが可能だ。

　北山氏はこれら2つのリスクへの対策について、アバナードが支援してきた実際の導入事例を基に、具体的な実装方法や構成例をアーキテクチャ図とともに紹介し、リスク対策の全体像を明確に示した。

コスト増大への対策（出典：イベント投影資料、筆者撮影）

高まる「情報漏えい」と「ハルシネーション」のリスク

　続いてアバナードの山本 学氏が登壇し、残る3つのリスク「情報漏えい」「ハルシネーション」「法規制対応の遅れ」について、対処アプローチを解説した。

　3つ目の「情報漏えい」と4つ目の「ハルシネーション」については、生成AIやAIエージェントの業務利用が進む中で、特に情報に関わるリスク管理の重要性が一層高まっていると山本氏は指摘する。同氏は、生成AIの活用に伴う情報リスクを、「インプットにおけるリスク」「アウトプットにおけるリスク」「外部環境に起因するリスク」「内在的なリスク」の4つに分類して説明した。

　インプットにおけるリスクとは、ユーザーが入力した機密情報がAIモデルに学習され、意図せず情報漏えいにつながる危険性を指す。一方、アウトプットにおけるリスクは、AIが事実と異なる情報や偏見を含む内容、いわゆるハルシネーションを生成し、それがユーザーや顧客に提供されてしまう点にある。外部環境に起因するリスクとしては、AIに関する法規制への対応遅れや、企業イメージに悪影響を及ぼすレピュテーションリスクが挙げられる。また、内在的なリスクには、著作権の侵害や個人情報の不適切な扱いなどが含まれる。

　これらのリスクに対して山本氏は、「セキュア・バイ・デザイン」と「責任あるAI」という2つの原則に基づいたアプローチを提示した。前者は、AIシステムの設計段階からセキュリティを組み込むことで、より安全かつ持続可能な運用を実現する考え方だ。セキュア・バイ・デザインを実践するには、セキュリティテストやシステムの堅牢化に加え、ID管理、認証・認可の徹底、安全なモデル構築、データ保護、セキュリティ運用体制の整備といった多面的な取り組みが必要となる。

　また山本氏は、生成AIやAIエージェントを安全に活用するためには、ID基盤の整備が極めて重要だと強調する。ID管理とロールベースアクセス制御（RBAC）、さらにソフトウェアサプライチェーンへの対策を組み合わせることで、AIシステムの信頼性を高め、組織全体のセキュリティレベルを引き上げることが可能だと述べた。加えて、クラウド環境、AIシステム、エンドポイントを一元的に監視・管理し、脅威に迅速に対応可能な体制の構築こそが、今後のAI運用における基盤になるとした。

　もう一つの柱である「責任あるAI」とは、AIシステムに関わる倫理、プライバシー、セキュリティなどの潜在的な課題に対して、企業や組織が主体的かつ継続的に取り組む姿勢を意味する。この概念は、AIに対する信頼性、公平性、透明性、説明責任を保証するための基本原則でもある。例えば、Microsoftは「公平性」「信頼性と安全性」「プライバシーとセキュリティ」「包括性」「透明性」「説明責任」の6つを「責任あるAI」の基本原則として掲げている。

　山本氏は、こうした考え方を組織に浸透させることで、ユーザーや管理者、経営層といった関係者にポジティブな影響をもたらすと述べた。結果として、よりセキュアで信頼性の高いAIモデルの構築・運用が可能となり、レピュテーションリスクをはじめとする外部的なリスクにも柔軟に対応できるようになるという。また、技術的な対策としては、有害コンテンツの出力を抑制する「コンテンツフィルタリング」などが、実践的かつ効果的だと付け加えた。

　最後に取り上げられた5つ目のリスク「法規制への準拠遅れ」は、特にグローバルにビジネスを展開する企業にとって重要性が高い。山本氏は、EUのAI規制法をはじめとする国際的な法制度において、自社に関連するリスクレベル、利用条件、順守すべき要件を正確に把握する必要があると強調した。

　総括として山本氏は、生成AIやAIエージェントの登場によってリスクの範囲が広がり、対応スピードの重要性がこれまで以上に増している一方で、リスク対策の基本的な考え方そのものは本質的に変わらないと述べた。アクセス制御やコスト管理、データ保護といった各領域において、より高度かつ包括的な対策を講じることが求められており、これらのリスク対応の取り組みが、今後の企業にとって競争力を左右する戦略的要素になると締めくくった。