ChatGPTやCopilotの活用が進まない“3つの理由” ユーザーが答えた切実な課題：生成AIの利用状況／後編

Microsoft CopilotやGemini、Claudeなどの生成AIサービスの業務活用に意欲的な企業がある一方で、活用に慎重な姿勢を見せる企業もある。関心はありながらも活用まで至らない理由はどこにあるのだろうか。

[キーマンズネット]

　「生成AI元年」と呼ばれた2023年から1年以上が過ぎた現在、企業における生成AIの業務活用はどこまで進んだのだろうか。

　キーマンズネットが実施した「生成AIの活用意向と利用状況」に関するアンケート（実施期間：2024年5月24日〜6月7日、回答件数：219件）から、後編となる本稿では業務活用の課題やトラブル事例、利用中または利用を検討している部門と用途について調査した結果を紹介する。

生成AIは便利だけど、結局二度手間　企業が直面した切実な問題

　生成AIを業務で「利用している」と回答した割合について2023年は11.6％、2024年は26.5％と前年比14.9ポイント増加したことを前編で紹介した。疑問となるのが、「利用している」とした回答者の勤務先では、想定通りに利用が進んでいるかどうかだ。業務の効率化や生産性の向上が期待される一方で、思わぬトラブルが発生する場合もある。

　そこで、生成AIを業務で「利用している」「試験利用中」と回答した人に対して、利用中に発生したトラブルや問題を尋ねた。成功例だけでなく実際に起きた失敗例も併せて知っておくことで、トラブルへの備えにもなるだろう。

　最も多く寄せられたのが、もっともらしい回答として誤情報を出力する「ハルシネーション」に関連する失敗例だ。「（生成AIで）メールの文面を作成し、ハルシネーションを発見できずにそのまま送付してしまった」「AIが正しい回答をしたと思い込み、引用元が不明瞭な情報を使用してしまった」など、不正確な情報を社外に発信したというコメントが目立った。

　ハルシネーションが発生する背景には学習データの不足はもちろん、AIの学習プロセスの問題など複数の要因が存在することが多く、これを完全に防止することは現時点では難しい。そこをどうカバーするかが、活用を進める上での課題となる。

　2つ目は、生成AI活用でよく聞かれる「アウトプットの正確性」に関する声だ。「AIが出力する結果が不完全なため、念のためにインターネットで検索して確認している」など、スピーディーに情報を得られるものの正確性に疑問があり、裏取りする必要があり二度手間になるといった声が挙がった。生成AIの出力結果が適切かどうかを見極められるよう、従業員のリテラシー教育も併せて検討する必要がある。

　だが、従業員教育や研修には相応の時間的、金銭的コストを必要とし、費用対効果で考えると複雑だという声も聞かれる。中には「（ユーザー部門を）サポートできる人材不足」「リアルタイムなサポートが難しいため、不明点や問題点が発生しても放置してしまうことが多い」などの悩みも寄せられた。

生成AIサービスの業務活用で障壁となる3つの課題

　これらの問題が発生しないよう、失敗例の研究と同時に障壁となりそうな問題や解決すべき課題も事前に確認しておきたい。

　アンケート全回答者を対象に、生成AIを業務で活用する上で「障壁となりそうな問題」や「解決すべき課題」を尋ねたところ、3つの意見に分類できる。

　1つ目は失敗例でも問題となった「ハルシネーション」に関するコメントだ。現時点では100％正しい回答を求めるのは困難なため、プロンプトを見直すなど、できるだけ正しい回答が得られるような工夫が必要だ。だが、そこで工数を取られると、生産性向上というメリットが損なわれるのではとの声が寄せられた。

• 間違った情報を提示された時に、それを間違いだと気付けない場合の対応が必要
• 出力された情報の正確性と正常性の確認が利用者では難しい
• 生成AIの出力結果の裏取りをどの程度すべきなのかが悩ましい。精緻な裏取りが必要なようでは生成AIを利用するメリットが損なわれる
• 情報の正確性を調査しなければならなくなるため、その分仕事が増える

　2つ目は、情報ソースの信頼性やセキュリティリスクへの懸念だ。2023年に引き続き、活用の障壁として挙がった。特に著作権問題に関しては企業の信頼性低下を招く要因にもなり得るため、企業が活用に慎重な姿勢を見せる原因の一つでもある。

• 自社の機密情報や個人情報が漏れないかどうかが不安
• 情報の守秘性を確保できるかどうか、疑問が残る
• 著作権の問題が完全にクリアしたかどうかが判断できない
• 精度向上を求める一方で、自社の保有情報は外に出したくない。二律背反を抱えている
• 生成物の知的財産権に関する情報をもっと開示してほしい。製品によって扱いが異なったり、法整備など企業で積極的に利用するにはまだ課題がある
• 生成AIがソースとして扱う情報元の調査が必要

　3つ目は、従業員のITスキルに関する課題だ。社会的に生成AIの活用ニーズが高まってる中で、活用できる人材がいない、ノウハウがないなどの声が寄せられた。これも引き続きの課題だ。

• ユーザー部門のスキル不足
• 生成AIを活用できる人材が社内に少ない
• 組織で生成AIを利用するために必要な従業員のスキル教育などの情報が欲しい

生成AIの利用シーン、現状は「バックオフィス業務」が中心か

　最後に生成AIを業務で「利用している」「試験利用中」「検討中」とした回答者に対して、利用を検討している部署、部門や、利用用途を尋ねた。以降では、3つのグループにおいてそれぞれの利用傾向を見ていく。

　「利用している」とした回答者では、利用部門については「情報システム部門」が最も多く53.4％、次いで「営業・販売部門」（37.9％）、「製造・生産部門」（36.2％）が続いた。利用用途は「調査、情報収集」（58.9％）、「ドキュメント作成」（54.4％）、「アイデア出し」（50.0％）が上位に並んだ（図1）。

図1　生成AIサービスの利用部署と利用用途（生成AIを業務で利用中しているとした回答者）

　次に「試験利用中」とした回答者グループでは、試験利用を実施している部門として「情報システム部門」（44.4％）、「マーケティング部門」（27.8％）、「営業・販売部門」（22.2％）が挙がった。情報システム部門や営業・販売部門に加えて、マーケティング部門が上位に挙がった点が「利用中」のグループと傾向が異なる点だ。利用用途は「ドキュメント作成」（58.3％）、「調査、情報収集」（58.3％）、「アイデア出し」（52.8％）が上位に挙がった（図2）。

図2　生成AIサービスの利用部署と利用用途（生成AIを業務で試験利用中とした回答者）

　最後に「検討中」と回答したグループでは、利用を検討している部門として「情報システム部門」（56.4％）、「経営企画部門」（33.3％）、「人事・総務部門」（28.2％）。利用用途は「ドキュメント作成」（56.4％）、「ドキュメントの要約」（53.8％）、「文章の添削、校正」（51.3％）が上位に挙がった（図3）。

図3　生成AIサービスの利用部署と利用用途（生成AIの業務での利用を検討しているとした回答者）

　作業用とについて、「利用中」のグループではバックオフィス業務を中心に情報収集やドキュメント作成などの補助的な作業が中心で、「検討中」とした回答者グループでも同じ傾向がみられた。一方で、「試験利用中」としたグループでは、上位に「マーケティング部門」や「営業企画部門」が挙がっていることから、今後はよりフロントオフィスでの活用も進むことが推測できる。

　顧客接点を増やすことで潜在ニーズを可視化し、マーケティング施策の立案から実行、振り返り、施策繁栄のPDCAを自動化したり、商談先とのアプロ―チ履歴を整理して適切な提案内容やトークスクリプトをアウトプットさせたりするなど、クリエイティブな用途での活用事例が今後は増えていくことが考えられる。

　一部で実業務での活用に意欲的な企業もみられるが、本稿で紹介した課題がボトルネックとなって業務での活用まで踏み切れないのが本音だろう。だが、前編で利用状況を示した通り、生成AI活用への意欲が鈍化しているわけではない。生成AIの活用を前に進めるためには、企業はどのような対応が必要かを自走しながら考える必要があるだろう。