【元経産省の専門家に聞く】中小企業がハマる「生成AIトラブル」5つの解決シナリオ

キーマンズネットの読者調査には、生成AIを巡る中小企業の切実な悩みが数多く寄せられた。代表的な5つの「あるある課題」を、経済産業省・中小企業庁でデジタル活用支援に携わった小池明氏にぶつけ、明日から使える乗り切り方を聞いた。

[平 行男，キーマンズネット]

　キーマンズネットが2026年4月に実施した読者調査「生成AIの活用意向と課題」（回答364件）によると、生成AIを利用する企業は全体の約7割に達した。一方で、従業員100人以下の中小企業に限ると、利用率は36.3％にとどまる。

　フリーコメントでは、「経営層がITに詳しくなく、必要性を理解してもらえない」「有償ライセンス導入の予算が確保できない」といった声が寄せられた。生成AIを使いたい現場と、投資判断に慎重な経営側。その間で、情報システム部門をはじめとする担当者が、コスト管理や利用ルール作り、安全対策といった新たな課題への対応を迫られている。

　だが、生成AI活用における問題は「導入するかどうか」だけではない。利用を始めた後にも、予算の使い切りや効果測定、経営層への説明、AIの回答確認、従業員による個人利用（シャドーAI）など、企業規模を問わずさまざまな問題がある。

　本稿では、読者企業へのアンケートで寄せられた代表的な5つの悩みについて、経済産業省・中小企業庁で中小企業のデジタル活用支援策に携わった経験を持つ小池明氏に解決のポイントを聞いた。予算管理の考え方や経営層を動かす方法、利用ルールの整備、安全な活用体制づくりまで、中小企業が生成AI活用を定着させるための具体策を紹介する。

解説：　小池 明（こいけ あきら）氏

イドモ代表、ITコーディネーター、共通EDI推進サポーター。経済産業省在職中の2017年〜2023年まで、中小企業庁で中小企業のデジタル活用支援策に携わる。2024年に経済産業省を退職後、イドモを設立し、中小企業向けのデジタル活用支援やITコーディネーターとして活動する。「つなぐITコンソーシアム」幹事、「中小企業デジタル経営推進機構」理事などを務める。

「生成AIサービスを利用中にどのような問題、トラブルが起こりましたか？」で寄せられた困りごと。専門家に解決策を聞いてみた。

• お悩み（1）　1カ月分の利用枠が、たった1週間でなくなってしまいました
• お悩み（2）　導入効果を聞かれても、何を成果として報告すればいいのか分かりません
• お悩み（3）　有償版を使いたいけど、経営層の口説き方が分かりません
• お悩み（4）　AIを使ったのに、チェック作業で逆に忙しくなってしまいました
• お悩み（5）　従業員が個人アカウントでAIサービスを使っていて、把握できません

利用枠を使い過ぎた……予算切れを防ぐ「配分のルール」

お悩み（1）　1カ月分の生成AIサービスの利用枠が、たった1週間でなくなってしまいました。

　読者企業へのアンケートでは、「会社単位でクレジットを購入する契約形態のため、1カ月分の利用枠がわずか1週間足らずで尽きた」という声が寄せられた。想定を超えるコストを懸念した企業が利用制限を設けた結果、本当にAIが必要な場面で使えなくなるという悪循環だ。

　小池氏は、現在の生成AIを巡る課題はクラウドサービスが普及し始めた時期に企業が経験した問題と共通点があると言う。

　当時も、不要なファイルの蓄積によってストレージ利用料が数百万円規模に膨らむ問題が発生したが、グループ単位での予算管理や利用ルールを整備することで解決した事例があったという。生成AIの活用においても、同様の考え方が有効だとアドバイスする。

　同氏が推奨するのは、個人ごとに利用上限を設定するのではなく、部署やチーム単位で共有の予算枠を管理する方法だ。利用量が多くなる場合は、事前に「どの目的で、どれだけ使いたいのか」を申告し、上司が必要性を確認した上で承認する仕組みを設ける。

　重要なのは、利用後に消費量を確認するのではなく、利用前に判断の機会を設けることだ。これにより、一部の利用者が気付かないうちに予算を使い切る事態を防ぎ、チーム全体の状況を踏まえた適切な配分が可能になる。「誰かが使い過ぎたため、本当に必要な人がAIを使えない」という問題も避けられる。

　一方で、小池氏はルール作りだけでは不十分だとも言う。生成AIが業務効率化や生産性向上につながっているのであれば、利用予算そのものを拡大する判断も必要だ。適切な予算配分と利用ルールの整備を両輪で進めることが、AI活用を定着させる鍵になる。

お悩み（2）　導入効果を聞かれても、何を成果として報告すればいいのか分かりません。

　「AIを導入したことで、仕事はどれだけ速くなったのか」と聞かれても、明確な数字で答えられない企業は多い。調査でも、生成AIを利用している企業のうち、「効果測定の方法が分からず測定できていない」（33.5％）、「効果測定をする予定がない」（22.2％）と回答した企業は合計55.7％に上り、半数以上が導入効果を把握できていない状況が見えた。

　小池氏は、まず何を測定すべきか、その優先順位を整理する必要があると説明する。

　「導入後、普及が進んでいる段階で効果を測るのはまだ早いという考え方もあります。ただし、導入したAIが実際に使われているのか、つまり利用したユーザー数を把握することは必ず行うべきです」

　その次の段階が費用対効果の測定だ。だが、大企業のように詳細に分析するのは難しく、かといって現場が手作業でデータを集計することも大きな負担になる。そこで小池氏は、多くの中小企業が直面する人手不足に結び付けた簡易的な指標を設定することを提案する。

　例えば文書作成業務の場合、AIを使った場合と使わない場合を数回比較し、1回当たりに削減できる時間を算出する。その仮の指標に、実際のAI利用回数を掛け合わせれば、月間でどれだけの時間を削減できたかを推計できる。

　「月に100回の文書作成で、これだけの時間を削減できた」と具体的に示せれば、経営層に対して継続利用の価値を説明する材料になる。

　売り上げへの直接的な貢献を数値で示すことが難しい段階では、追加予算を確保することも容易ではない。だからこそ、AI活用の成果を人手不足の解消や業務時間の削減といった経営課題に結び付け、あらかじめ測定可能な指標を設定しておくことが重要になる。

お悩み（3）　職場で有償版の生成AIサービスを使いたいのですが、経営層の口説き方が分かりません。

　調査で「生成AIを利用する予定はない」と回答した企業に理由を尋ねたところ、「メリットを理解していない」（26.9％）、「経営層の理解が得られない」（15.4％）が上位を占めた。自由回答でも、1ユーザー当たり月数千円程度の有償ライセンスでさえ予算化できないという声が多く寄せられている。小池氏は、こうした状況を単なる慎重姿勢ではなく、経営上のリスクと捉えている。

　「使うか使わないかは、まず一度検証する必要があります。その上で『現時点では必要ない』と判断するのは問題ありません。ですが、『よく分からないから導入しない』という判断は、経営として危険です」

　一方で、小池氏は中小企業の経営者がAIに関心を持っていないわけではないと言う。商工会議所などで「デジタル活用」をテーマにしたセミナーを開催しても参加者は数十人程度にとどまる一方、「AI活用」をテーマにすると100人近く集まり満席になることも珍しくないという。つまり、関心自体は高まっているものの、自社の費用で導入するという具体的な意思決定には至っていないのが現状だ。

　では、現場の従業員はどのように経営層へ働きかければよいのか。小池氏が勧めるのは、まず「AIを使いたい」という従業員の声を丁寧に拾い、社内の推進役となる人材を増やすことだ。そして、生成AIの利用目的や業務への効果を整理した資料を作成し、継続的に経営層へ伝えていくことが重要になる。その際、特に経営者に響きやすいのが「同業他社の導入事例」だという。

　「経営者に伝わりやすいのは、『同業のあの会社が使っている』という情報です。それを聞くことで、『自社も取り組まなければ遅れてしまう』という意識が生まれることがあります」

　また、AIを使えない環境が続けば、業務改善に前向きな従業員の不満につながり、人材流出のリスクにもなり得る。小池氏は、こうした人材面の影響を伝えることも有効だと話す。

　ただし、経営層と現場の対立という構図にすべきではない。経営者自身がAIの利便性を体験できる機会をつくることも重要だ。例えば、ゴルフや野球など経営者が関心を持つテーマと組み合わせて生成AIに触れてもらうことで、導入を「現場から求められるもの」ではなく「経営者自身が活用するもの」へ変えていくことができる。

お悩み（4）　AIを使ったのに、チェック作業で逆に忙しくなってしまいました。

　生成AIの効果を最大限に引き出すには、継続的に使い込むことが重要だ。一方で、利用が広がるほど新たな課題となるのが、AIの出力内容を確認する負担だ。

　アンケートのフリーコメント欄には、「コスト計算で誤った回答を受け取り、裏付け確認をしないまま第三者へ情報提供してしまった」という失敗例が寄せられた。一方で、「ハルシネーション（AIが事実と異なる情報を生成する現象）が多く、ファクトチェックに時間がかかる」という声もあり、確認作業がかえって生産性向上の妨げになるケースも見られる。

　小池氏が提案する解決策は、チェックを個人の注意力に任せるのではなく、組織のルールとして仕組み化することだ。まず、AIを利用する業務工程を整理し、誤りが重大な影響につながる場面だけを人による確認対象にする。

　判断基準となるのは、「社外に出す情報か、社内で利用する情報か」という点だ。社内向け資料については、一定の誤りを許容するという前提を共有する。一方で、社外向け資料に含まれる金額や契約条件など、誤りが直接的なリスクにつながる情報については、新入社員の成果物を先輩社員が確認するように、人が責任を持ってチェックする。

　AIの誤りまで利用者個人の責任にしてしまえば、従業員はリスクを避けるためにAIを使わなくなる。責任の所在を個人の注意力ではなく、組織のルールに置き換えることが、過剰な確認作業による疲弊を防ぐ鍵になる。

　また、小池氏はルールを一度作れば終わりではなく、AIの進化に合わせて継続的に見直す必要があると助言する。

　「AIは驚くほど速いスピードで進化しています。例えるなら、営業車が気付かないうちに高性能化しているようなものです。普通の車だと思って運転していたら、アクセルを少し踏むだけで時速100キロ出る車になっているかもしれません。道具の変化に合わせて、使い方のルールも更新する必要があるのです」

　生成AIを安全かつ効果的に活用するには、個人の努力や慎重さだけに頼るのではなく、組織全体で適切な利用基準を整備し、進化に合わせて柔軟に変えていくことが求められる。

お悩み（5）　従業員が個人アカウントでAIサービスを使っていて、把握できません。

　ルールを整備しないまま生成AIの利用を進めると、最終的に問題となるのが「シャドーAI」だ。企業が業務利用を想定した生成AI環境を用意していないため、従業員が個人契約のAIサービスを無断で利用することだ。

　調査でも、「オプトアウト（AIの学習データへの利用を停止する設定）を忘れたまま機密情報を入力してしまった」「会社が業務利用可能な生成AIを導入しているにもかかわらず、個人契約の無料AIサービスを使っていた」といった事例が報告された。一方で企業側にも、「従業員へのガバナンス教育が負担になる」（19.2％）という理由から、ルール整備を後回しにする傾向が見られる。

　小池氏がまず推奨するのは、既存の公的資料を活用した最低限のルール作りだ。情報処理推進機構（IPA）が公開する「AI利用者のためのセキュリティ豆知識」には、「クラウド型AIサービスに営業秘密を入力しない」といった基本的な注意点が整理されている。まずは、こうした指針を社内ルールとして共有することから始めればよいという。

　その上で重要なのは、シャドーAIのリスクを管理側だけでなく、AIを利用する従業員も自分自身の問題として認識することだ。知らないうちに重要情報を社外へ流出させ、その当事者になる可能性がある。この危険性を、管理部門はルール作りに反映し、現場にも継続的に周知していく必要がある。

　では、現場の社員が会社よりも先にAIツールを見つけ、独自に導入している場合はどう対応すべきか。現場の判断や予算で導入を認めるかどうかは企業ごとの方針によるが、小池氏は「把握しないこと」だけは避けるべきだと指摘する。

　「取引先企業には、『放置することだけは絶対に避けましょう』と伝えています。IT部門が何も把握していない状態で問題が発生すると、『そもそも社内でどのツールが使われていたのか』を調べるところから始まり、対応が後手に回ってしまいます」

　導入時の登録制など簡単な仕組みでもいいので、どのAIツールが社内で利用されているのかを情報システム部門やセキュリティ担当が一元的に把握することが重要だ。生成AIを安全に活用するためには、利用を禁止するのではなく、組織として管理できる状態をつくることが最低限の備えとなる。

人手不足の先に見えた「予想外の効果」

　最後に、小池氏が取材の中で「目からうろこだった」と語った事例を紹介したい。

　ある中小企業では、当初「少しでも業務を効率化したい」という目的で生成AIの活用を始めた。だが、その後、人手不足を理由に外国籍の従業員を採用したことで、AIの別の価値が見えてきたという。

　従来の紙のマニュアルや文書による情報共有は、外国人従業員にとって言語面の壁があり、十分に浸透しにくかった。一方で、生成AIを活用した業務では、その壁が大きな障害にならなかったという。

　背景には、生成AIの多言語対応機能がある。例えば、マニュアルの内容を従業員の母語に翻訳したり、分からない点を自分の言葉でAIに質問し、回答を得たりできる。従来の「資料を配布して読んでもらう」という情報伝達から、「AIに問いかけて必要な情報を取り出す」という形に変わったことで、結果的に言語の違いを乗り越えることにつながったと考えられる。

　この事例が示すのは、生成AIの価値が単なる作業時間の短縮だけではないということだ。人手不足や多様な人材の活用といった、中小企業が抱える経営課題の解決手段にもなり得る。

　経済産業省やデジタル庁も企業のAI活用を後押ししている。だが、実際に中小企業がその恩恵を受けられるかどうかは、導入後に直面するコスト管理や効果測定、利用ルール、安全対策といった課題を一つずつ解決できるかにかかっている。

　生成AIを単なる新しいツールとして導入するのではなく、自社の課題を解決するための仕組みとしてどう活用するか。その視点を持ち、ルールと工夫を積み重ねることが、中小企業におけるAI活用の成否を分ける。