こんなところに野良AIが？ 事例で解説、実際にあった2つの発覚パターンと防衛策

社内の誰がどのAIを使っているのか、正確に把握できている企業は多くない。しかも問題は、たいてい事後に発覚する。約500社の商談分析と複数の実例から、野良AIとの現実的な付き合い方を探る。

[平 行男，キーマンズネット]

　管理部門が把握していない「野良AI」（シャドーAI）が増え続けている。AIガバナンス協会の調査では、従業員が個人の裁量で使うAIについて「把握に課題がある」と答えた企業は約6割に上った。回答したのはガバナンスに積極的な先行企業群だが、それでもこの水準だ。

　本稿ではAI導入支援を手掛けるJAPAN AIへの取材を基に、野良AIがどこで生まれ、どこまで管理できれば及第点なのか、対処の順序を整理する。

放置される野良AI　“見落とされがち”なあるリスク

　野良AIを放置したときの問題は、大きく3つある。1つ目が「データ流出」、2つ目が「コスト増」、そして見落とされやすいのが3つ目の「活用履歴が会社に残らないこと」だ。個人でAIを利用すると、成果につながった知見が個人に蓄積され、会社の資産にならない。結果として、競争優位を生む機会を逃すことにもつながる。目に見える被害が出ない分、気付かれにくい。

　だが、この危機感は企業側に十分共有されていない。JAPAN AIの商談分析でも、「野良AI」という言葉が出た商談は2割未満だった。背景には、DX推進部や情報システム部が野良AIの存在を把握していても、結果を表に出しにくい組織的な事情がある。こうした構造が問題の顕在化を妨げており、統制より現場のスピードを優先しがちな中小企業ほど、相対的にリスクが高い。

事野良AIはいつ判明する？　実際にあったパターンから読み解く

　野良AIは、最初から「野良」と認識されるわけではない。経営トップの号令で一気に広がったり、会社が認めたツールの利用から生まれたりすることもある。では、企業はどの瞬間にその存在に気付くのか。実際にあった2つの事例から、発覚パターンを紹介する。

事例1．トップダウンの号令が一斉拡散を招いた

　1社目の事例では、社長がAI活用の方針を掲げ、選抜チームでプロジェクトを立ち上げた。法人利用か個人利用かをあまり考えず、AIを使うこと自体を是として進めたケースだ。

　問題が表面化したのは、時間差でシステム部門が加わってからだ。統制を利かせようとした段階でリスクが判明し、野良AIが好き放題に使われていた実態に情報システム部門が頭を抱えることになった。

　この構図はどの企業にも起こり得る。経営陣が号令を出し、AI活用が正義になった瞬間にツールは一気に広がる。そこでほぼ確実に起きるのが、リスク確認のできていないツールへ危険度の高い情報を投入してしまうことだ。「どのデータなら入れてよく、どれを入れさせてはいけないのか」といった規則を、号令と同時にルール化できている企業は多くない。

事例2．公認したツールが個人契約だった

　2社目は、公式ツールが「Microsoft Copilot」だった企業の事例だ。その企業では「『Google Gemini』のほうが精度がいい」という声が社内で高まり、ある部門が主導して全員での利用に踏み切った。部門がGeminiを登録し、チームメンバーに登録手順までレクチャーした。

　問題は、その手順が個人利用の登録に誘導されていたことだ。約20人が個人契約のアカウントで会社のデータを入力していた実態も、後になって判明した。会社が推奨したツールが、実は統制の利かないものだったという構図だ。無料版のCopilotで生成AIを使い始め、機能不足を理由に別のツールへ流れるパターンなど、似た例は珍しくない。

　2つの事例に共通するのは、問題が起きてから気付いた点だ。そして、どちらの事例でも、ルールが定まっていなかった。禁止も推奨もしない、方針があいまいな企業は非常に多い。さらに、もう一つの共通点が、システム導入に対する考え方の古さだ。

　野良AIは、シャドーITやシャドーSaaSの延長にある概念だが、それらとの違いは導入方法にある。従来のツール導入は法人間取引が基本だ。仮に部門が独断で入れたシャドーITであっても、契約や支払いという痕跡は残る。だからこそ、情報システム部門の審査という関所を置き、システム単位で承認・非承認を判断すれば統制は利く。

　ところが生成AIは、個人がメールアドレスだけで登録できてしまう。契約も支払いも発生せず、部門の審査そのものを通らない。統制すべき箇所が、法人間の契約書から従業員のデバイスへと置き換わり、どんなデータが投入されるかというアクセスやログの単位へまで移っていく。この構造変化に追い付けるかが分かれ目といえる。

「使わせる責任」と「使わせない責任」の衝突

　もう一つ根深いの問題となるのが、組織の責任分掌だ。「使わせない責任」を負う部門と「使わせる責任」を負う部門が別というケースは多い。例えば、情報システム部門とDX推進部が並立し、後者が社長直下で動く構成だ。

　そのような環境で、DX側が強い権限を持つ企業が「AI活用による成果に高いインセンティブを払う」という全社キャンペーンを打ったとする。従業員は次々と事例を提出し、推進側から見れば成功だ。

　しかし、統制を担う情報システム部門から見れば、「野良AI推奨月間」と呼ぶべき状態が生まれる。会社が旗を振る以上、厳密には野良AIではないかもしれない。それでも、リスク確認のできていないツールに危険度の高い情報が入る点では限りなく近い。

　目的のずれは経営層にも表れる。社長が率先して個人利用のAIを使い込み、役員にAIの回答を突き付ける。その社長が使うものが、社内で最たる野良AIになっている例は多い。役職が高い人ほど、自分は例外だと考えがちでもある。

　野良AIを従業員のリテラシーの問題として片付ける論調には、違和感が残る。従業員からすれば、AIで生産性を上げて会社に貢献しているという理屈も成り立つ。問われているのは、企業としての向き合い方だ。

「野良AI」ゼロを目指さない、データを3階層で管理する方法

　では、うまく付き合えている企業は何をしているのか。参考になるのが、野良AIをゼロにしようとしなかった、ある企業の取り組みだ。同社ではAIそのものは規制せず、データの取り扱いのほうを縛った。レッドとイエロー、グリーンの3階層で管理する方式だ。

　レッドは「何があっても流出させるな」という区分で、個人情報や人事情報、ソースコード、M＆A関連などが該当する。AIに限らず隔離し、権限を設定した人にしか公開しないもので、ISMS（情報セキュリティマネジメントシステム）の考えに近い。

　イエローは社内の会議資料や提案書、マニュアル、業務データなどで、会社が用意したCopilotの環境上でなら利用可とした。グリーンはそれ以外で、アイデア出しや翻訳、文章の書き直しといった用途だ。一切取り締まらず、Gensparkで資料化しても構わない。

　この方式が効く理由には、ツールが増えても被害の上限がデータ側で決まるという点がある。利用可能なAIを列挙する方式だと、新しいツールが出るたびに更新を迫られる。しかし、階層を先に決めておけばその線は動かない。

　もっとも、AIの普及と同時にデータの取り扱いへ統制を利かせる例は、JAPAN AIが関わった中でもまれだ。野良AIをゼロにするのは不可能に近い。ならば、すでに起きているものとして対処を考える視点が要る。冒頭のAIガバナンス協会の調査も、全件把握という完璧主義からの脱却を求めている。

止血から恒久対処へ　4段階の対処法で野良AIに対応

　取材で示された対処は、以下の4段階に整理できる。前半の2つはすでに広がった野良AIへの止血、後半の2つは体制を立て直す恒久的な対処に当たる。

1．技術的に検知する仕組みを先に置く

　まず必要なのは、野良AIが起きているかを技術的に検知することだ。従業員アンケートで使用ツールを聞く企業は多いが、正直な回答が返ってこない可能性もある。ファイアウォールのログで特定ドメインへの通信を見るなど、技術面で検知できる仕組みを先に置きたい。

2．シンプルなレッドラインを示す

　次に、分かりやすいレッドラインを示す。規定やガイドラインを詳細に作り込んでも、読まれなかったり浸透に時間がかかったりする。「こういうデータは絶対に入れるな」という一点に絞ったルールを配るほうが早い。

3．公式ツールとガバナンスを整える

　ここからが恒久対処だ。まず、公式のAIツールとガバナンスを整備する。CopilotでもGeminiでも、外部ベンダーのものでも自社構築でも構わない。学習に使わせないオプトアウトの統制、法人契約、監査ログ、シングルサインオンといった要件を満たす環境を用意する。

4．一度決めたものを固定しない

　最後は、決めたものを固定しないことだ。導入から2、3年目の企業では、初期に構想した環境がすでに古びていることもある。新しい技術が出たらPoC（概念実証）を回せる視野を持ち、例外を通す仕組みを用意しておく。公式ツール以外を使いたい場合は申請ルートを通し、利用目的と使用端末まで挙げさせる。画像生成のように危険度の低い用途は、目をつぶる範囲として定義しておけばよい。

　まずは技術的な検知と、シンプルなレッドラインから。先に見た2社は、どちらも問題が起きてから気付いた。ならば、気付いた後に何をするかを先に決めておくことが大切だ。