ChatGPTに夢を見すぎたユーザーの失敗 「生成AI」業務活用のトホホな体験談：生成AIの利用状況と課題（2023年）／前編

OpenAIの「ChatGPT」に始まりGoogleの「Bard」など、大手テック企業のみならず、多くのITベンダーが参入する生成AI市場。今後ユーザー企業での活用は進むのだろうか。

[キーマンズネット]

　2022年暮れに「ChatGPT」が注目されると同時に生成AIの利用が急速に広がった。野村総合研究所が2023年5月に実施した意識調査（注）によるとビジネスパーソンの50.5％で生成AIが認知され、業務での活用が期待される。一方で、出力結果の精度や権利関係など、目前の課題もある。

　キーマンズネットでは「生成AIの利用状況と課題」と題してアンケート調査を実施した（実施期間：2023年6月23日〜7月7日、回答件数：336件）。前編となる本稿では、業務における生成AIの利用状況（従業員数、業種別）と生成AI利用者が経験した失敗、トラブル事例、業務での利用用途と生成AIを業務で利用しない理由について、アンケート調査結果を紹介する。

生成AI「こっそり利用」が多いのは研究、教育・医療機関、官公庁

　ビジネスITのトレンドとして関心を集める生成AI。業務やビジネスに取り入れようと意欲的な企業もあれば、数々の課題から現状を静観する企業もある。

　まず、勤務先でChatGPTなどの生成AIサービス、もしくは生成AIを取り入れた製品を利用しているかどうかを尋ねたところ、「利用している」（11.6％）、「試験利用中」（16.4％）となり、「利用中」とした割合の合計は3割弱にとどまった（図1）。最も多いのは「利用を検討している」であり、27.4％であった。

　生成AIの利用状況を企業規模別に見ると「利用している」「利用を検討している」とした割合は従業員数5001人以上の企業で約8割と高い割合を示す一方で、500人以下の中小企業では半数に満たない。「個人的に利用している」は従業員数501〜1000人の企業が比較的高い傾向にあった。

図1　生成AIサービスやまたは生成AIを取り入れた製品を利用しているか（従業員規模別）

　生成AIの利用ポリシーがまだ明確に定められていないためか「（会社では認められていないが）個人的に利用している」（22.0％）とした人も一定数存在する。シャードIT的な利用が広がれば情報漏えいやセキュリティ、著作権の侵害など、見えないリスクが膨らむ恐れもある。2023年5月に日本ディープラーニング協会が「生成AIの利用ガイドライン」を公開したが、こうした外部の資料や情報を参照しながら自社に合ったポリシーを考えるのも一つの方法だろう。

　業種別で見ると、「利用している」「試験利用中」の割合は機器・ソフト製造やIT製品販売、受託開発などIT製品関連業が高く、研究機関や教育、医療機関、官公庁では「（会社では認められていないが）個人的に利用している」の割合が高い傾向にあった（図2）。

図2　生成AIサービスやまたは生成AIを取り入れた製品を利用しているか（業種別）

ウソつきのChatGPTに振り回された……、経験したトホホ事例

　前述したように、ChatGPTなどの生成AIは作業の効率化、作業時間の短縮が期待される一方で、誤った情報を発信してしまうなど思わぬトラブルにつながる恐れがある。アンケート回答者に対して、生成AIを利用していて経験したトラブルや失敗例をフリーコメント形式で尋ねたところ、次のようなコメントが寄せられた。

　1つ目は生成AIがアウトプットした誤情報をうのみにしてしまい情報を拡散したなど「情報精度」に関する声だ。誤情報の発信は混乱を招くだけでなく、企業としての信頼低下につながる。ベンダー側の技術向上だけでなく、利用者側の“目利き”も必要だ。

• 2021年時点の古い情報にもかかわらず、最新情報のように他部門に展開してしまった
• 的中率は6割程度で、その都度回答が変わる。クローラで収集した方がまだ正確
• ChatGPTの回答が大ウソだった。出力データには信用できない情報があることを認識
• 使い始め当初はプロンプトの重要性を正しく理解していなかったので、意図しない結果や正しくない結果が表示され、それに気が付かないことがあった

　2つ目は「セキュリティ」に関する声だ。多くの生成AIサービスは入力した情報を学習情報として利用するため、未発表の製品情報や契約文書など秘匿性の高い情報を入力すると、設定によっては情報漏えいに発展する恐れがある。

• リテラシーが低い社員が業務で知り得た情報をAIに食べさせてしまった
• 契約書類の内容を一部利用してしまった

生成AIを「業務で活用中」の利用用途は？

　続いて、生成AIを勤務先で「利用している」「試験的に利用している」とした回答者に対して利用用途を尋ねた。

　「利用している」とした回答者では、「アイデア出し」（58.4％）、「調査、情報収集」（53.1％）、「ドキュメント作成」（35.4％）が上位に並んだ。「試験的に利用している」としたでは、「調査、情報収集」（63.6％）、「アイデア出し」（58.2％）、「ドキュメント作成」（54.5％）という並びとなった。

図3　生成AIの利用用途について（現在利用中／業種別）

図4　生成AIの利用用途について（試験利用中／業種別）

　またそれぞれに対して、どの部署で利用または利用を検討しているかと尋ねたところ、「利用している」とした回答者では「情報システム」（53.8％）、「製造、生産」（28.2％）、「営業・販売／営業企画」（25.6％）が、「試験的に利用している」とした回答者では「情報システム」（60.0％）、「営業・販売（20.0％）、「営業企画／マーケティング／製造・生産／経営企画」（18.2％）が上位に並んだ。

　生成AIサービスや製品を「利用する予定はない」と回答した人にその理由を調査したところ、「業務での利用イメージが湧かない」（46.7％）が最多で、次いで「情報漏えいなどのリスクを懸念」（38.3％）となった（図5）。

図5　生成AIサービスを利用しない理由

　「メリットを理解していない」（25.0％）、「使い方が分かっていない」（20.0％）、「どのような技術かを理解していない」（11.7％）など、生成AIサービスに対する認識不足が目立つ結果となった。

　前編では生成AIサービスの利用状況を中心に、利用用途や失敗事例、業務で利用する際の課題などを紹介した。後編では、生成AIの成熟度に対するユーザーの評価や、フリーコメントで寄せられた生成AIの面白い使い方などを紹介する。

注：「アンケート調査にみる『生成AI』のビジネス利用の実態と意向」（野村総合研究所）