顧客対応業務における生成AIの可能性とリスクとは 専門家が解説
生成AIはCX（顧客体験）の向上を期待させるものだが、企業は採用とコンプライアンスに関する課題に直面している。CXの分野における生成AIの可能性を改めて確認しよう。
CX（顧客体験）の分野でビジネスを営むテクノロジーベンダーは最新の技術を提供しているが、顧客がそれに追い付けない場合がある。一般的に、ベンダーからリリースされる技術と、顧客が実際に導入する技術の間にはギャップが存在するが、生成AIの場合、そのギャップは巨大なものになる。
生成AIの大きな可能性と、それを実現するための課題
調査データを好意的に解釈する傾向があるベンダーの調査報告書においてでさえ、このようなギャップの現状が認められている。カスタマーサクセスを支援するためのソフトウェアを提供するZendeskが2024年12月に発表したレポート「CX Trends 2025（CXのトレンド 2025年版）」によると、国際的な調査の対象となった5500人のビジネスパーソンのうち4分の1以上が、予算不足または知識の欠如、社内サポートの不足を理由にAIの導入を遅らせているという。他にもギャップを示す調査がある。
NTT Dataがスポンサーとして2024年10月に実施した調査によると、IT領域における経験豊富な意思決定者の半数以上が、生成AI戦略をビジネスニーズに合わせて調整していないことが明らかになった。生成AIに関する大規模な投資をした旨を報告した回答者はわずか39％で、残りの60％は、ある程度の投資を行った段階か、試験的なプロジェクトを評価する段階にあるという。これらの投資の一部は第三者から資金提供を受けて実施されたもので、企業は残りを自己資金でまかなったようだ。また、回答者の1％は、生成AIへの投資計画が全く存在しないと回答した。
それでも生成AIは着実に普及し始めている。SalesforceやHubSpotのような企業は、生成AI機能を次々とリリースするだけでなく、AI領域のスタートアップ企業への投資を通じて自社のプラットフォームを強化し、将来の買収候補となる企業の健全性を高める取り組みをしている。
CXの分野では、生成AIを早期に導入した企業が、カスタマーサービスやコンタクトセンターでその活用方法を見出している。生成AIを搭載したbotは、推論やロジックエンジンと組み合わせることで自律的に簡単な意思決定を実施し、「エージェント」と呼ばれる。これらのbotは新しいものを創り出すわけではないが、従来のAIよりも回答を効率的に見付けて要約する能力に長けている。そのため、カスタマーサービスやコンタクトセンターでの活用に適しているのだ。
CXの分野で活用されるエージェントは大きな可能性を秘めているが、単に起動するだけで活用できるものではなく、通常多くの実装作業を必要とする。ユーザーは、AIエージェントが担う役割やプロセスを定義した上で、顧客データやナレッジリポジトリを整備しなければならない。しかし、多くのIT環境において、これらの作業には困難が伴うだろう。
グローバルなコンサルティングサービスを提供するTTEC Digitalのジョン・シーズ氏（最高マーケティング責任者）は「実際のところ、私たちはクライアントと連携しながら想定と異なる方法で生成AIを活用している。エンドユーザー向けに利用するのではなく、クライアントの知識、構造化データと非構造化データに対して内部で利用しているのだ」と語る。同社の顧客には大規模なコンタクトセンターが含まれる。同氏は「はじめに、重複や不一致を指摘しながら膨大なデータを整理する。次に、私たちのマネージドサービスやツール、ソフトウェアを用いてデータ整理を継続できる体制を構築する」と述べた。
「その結果、データをより効果的な形で外部に提示できるようになり、問い合わせのための着信を減らしたり、矛盾するデータへの依存を減らしたりすることができる。また、より意義のある形式でセルフサービスを推進できる。これらはコンタクトセンターにおいて常に重要なことだ」（シーズ氏）
マーケティングチームやeコマースチーム向けに生成AIを導入する上でもデータ整理が重要な鍵となる。GoogleやSalesforce、Sitecoreをはじめとする企業がリリースしたAIは、人の手で修正する必要のない完成されたキャンペーンやWebサイトを生成するものではない。しかし、クリエイティブチームは生成AIから新しいアイデアを得て良いスタートを切ることができる。その中には、優れたアイデアも含まれている。
ChatGPTによる革命
コンタクトセンターの領域を中心に、CXの分野では長年にわたって、分析および音声認識、自然言語処理にAIを利用してきた。ルールベースの自動化と組み合わせることで、AIが電子メールを読み取り、適切な専門知識を持つエージェントにメッセージを振り分けるといったことが可能だ。
ITサービス管理のためのプラットフォームを提供するServiceNowで、顧客対応と業務ワークフローのためのプロダクトを担当するジョン・ボール氏（シニアバイスプレジデント兼ゼネラルマネジャー）は、「2023年の終わりに『ChatGPT』という形で登場した生成AIは、これまでのAIと全く異なるものだった」と述べた。
「生成AIの能力は驚くべきものであり、5年前に私が夢見ていたことが実現できるようになると思った。チャットの返信や電子メールの文章を容易に提案してもらうことができるのだ。全ての会話を1から手作業で作る必要がなくなり、ユーザーの意図に関するモデルや重要な要素を判別するためのモデルを手作業で構築する必要もない。これらの作業を大規模言語モデル（LLM）が担ってくれるのだ」（ポール氏）
Metaに最近加わったクララ・シー氏は、過去にSalesforceのAI部門でCEOを務めていた。当時生成AIが初めて発表されたことを振り返り、同氏は「はじめは、その概念を理解できなかった」と語っている。同氏が、生成AIを初めて目にしたのは、スタンフォード大学教授であり、Salesforceのエグゼクティブバイスプレジデント兼チーフサイエンティストであるシルヴィオ・サヴァレセ氏が行った対面ミーティングだった。
「それはコロナのパンデミック後にあった最初の対面ミーティングの1つだったが、全員が緊張していたことを覚えている。また、全員がマスクを着用していた。私が担当するセクションの発表を終えた後、サヴァレセ氏がLLMに関する説明を始めた。その時、私は心のなかで『冗談だろう。これはSFの話だろうか』と思ったのだ。信じられない話だったが、同氏は立ち上がり、私たちに実際に生成AIを見せてくれた。本当に驚くべきものだった」
Salesforce AIのエグゼクティブ・バイスプレジデントであるジェイエシュ・ゴヴィンダラジャン氏は、OpenAIのChatGPTがリリースされる前に、ラボでのプレビューを目にする機会があったという。初期のプレビューについては「おもちゃのように見えた」と語るが、1カ月後のリリース前プレビューには「本当に衝撃を受けた。変化のスピードに圧倒された」と振り返った。
一方で、AI研究に長年携わってきたサヴァレーゼ氏は、生成AIの登場を「かなり前から予見していた」という。
「実際に私たちが驚いたのは、その急速な普及でした」とサヴァレーゼ氏は語る。「突然、地球上の全ての人が使い始めたのを見るのは、本当に信じられない体験だった」
自律性は未解決の課題
AIの自律性を巡っては、多くの疑問が残っている。AIエージェントはコストを削減でき、病欠もなく、年中無休で働けるが、顧客を満足させることが本当にできるのだろうか。企業にとって有利または顧客にとって不利な判断をAIが下してしまったらどうなるのか。 学習データによって逸脱した判断をするAIに、どのようにガードレール（制御策）を設けられるのか。そもそも、顧客はAIを望んでいるのか。
今のところ、問いの数が答えを大きく上回っている。インディアナポリスに拠点を置くTrimedx社は、全米6000の病院で医療機器の管理を行っており、250万台の現場機器と、それにひも付く作業指示書のレポート作成を、ServiceNowで生成AIに任せようとしている。CIOのブラッド・ジョーブ氏は「250万件にわたる業務で、1件につきわずか数分でも時間短縮できれば、それだけでテクノロジーへのROI（投資対効果）として非常に魅力的だ」と述べている。
ジョーブ氏は、生成AIのこの用途には大きな可能性があると見ており、今後2四半期以内に導入予定だという。将来的には、チェックリストや部品リスト、トラブルシューティングガイドといった教育コンテンツを生成AI経由で提供する計画もある。これは、ベテラン技術者に代わって現場に入ってくる若手臨床技術者の育成スピードを加速させることが目的だ。
ジョーブ氏は、「臨床現場におけるエージェントの自律性が実現するのは、まだかなり先の話だ。それが実現すると信じている人たちと多く話をしてきた。これは今登場してきたばかりのキラキラした新技術であり、そこにチャンスがあるかと問われれば、あると思っている。ただ、私たちが臨床医の手から意思決定を取り上げるような段階に至るかと言えば、それはやや行き過ぎだ。今の時点で重要なのは、彼らの判断を支援する情報を提供できるかどうか、という点だ」
もう一社の大規模なServiceNowユーザーである製造、産業工学の大手シーメンス（Siemens）は、「Microsoft Azure」で社内利用のために独自の「バイオニックエージェント」を開発しており、現在では外部顧客への提供にも向けて動き出している。
このエージェントは、サプライチェーン調達、HRの福利厚生管理、給与計算といった業務を実行できる。
このエージェントは、生成AIが登場する前に共有サービスとして導入されていたが、生成AIによるトレーニングによって開発サイクルが大幅に加速され、さまざまな役割やユースケースに応じたカスタマイズが可能になったと、シーメンスのマティアス・エーゲルハーフ氏（デジタルソリューション部門責任者）は語った。
エーゲルハーフ氏によれば、生成AIは文書業務の生産性を高め、課題解決にも貢献しているだけでなく、人間よりも正確にタスクをこなすことさえあるという。「自律エージェントが妥当とされる場面があれば、私はいつでもそれを導入する準備ができている。生産性の向上がとにかく著しい」とエーゲルハーフ氏は語る。
規制と著作権の懸念
今後施行される規制は、カスタマーサービスで生成AIエージェントを利用する上での課題をさらに増やすことになる。CX担当者は、設計する業務プロセスと、それを支えるテクノロジーの両方について、法令順守を意識せざるを得なくなるだろう。
バイデン政権は、カスタマーサービスやマーケティング、広告分野におけるCX改善を目指す複数機関の取り組みを統括しており、今週はホテル、バケーションレンタル、コンサートチケット業者による「隠れ手数料（ジャンクフィー）」の禁止も打ち出した。
こうしたCX関連の規則は、通常は議会の超党派による支持を得やすい。「ワンクリック解約ルール（Click to Cancel）」では、ジムや動画配信サービスなどのサブスクリプションを、登録時と同じくらい簡単に解約できるようにすることが求められる。連邦取引委員会（FTC）の次期委員長アンドリュー・ファーガソン氏は、このルールに反対票を投じた少数派であったが、いずれにせよ自律エージェントがあれば、こうした解約手続きもより簡単に、確実に実行できる可能性がある。
州ごとに異なる法規制とその対応
法律事務所モリソン・フォースターの訴訟担当パートナーであるアレクシス・アメスクア弁護士によれば、「Click to Cancel」ルールについては、連邦政府の対応とは別に、州ごとのルールも依然として有効であり、企業にとっては対応が一層複雑になるという。
「大企業であっても、小規模なスタートアップであっても、それぞれ異なる形で困難が存在する。大企業であれば技術基盤が複雑であり、完全なコンプライアンスを達成するためには多層的な対応が求められる。一方で、従業員が3〜5人の小規模事業者であれば、起業家であっても法律の専門家ではなく、何をすべきか理解できない。そのため、法的支援が必要になる」
生成AIと著作権のリスク対応
民間企業は現在、生成AIの利用によってうっかり著作権保護された素材を使用してしまうリスクを軽減しようとしている。
Adobe社は2019年に「コンテンツの信頼性を証明する」ための取り組み「Content Authenticity Initiative（CAI）」を立ち上げた。これは、画像の出所や編集履歴を証明するためのメタデータ標準、オープンソースツールなどを提供し、Photoshopなどの編集ツールで画像がどのように加工されたかを可視化する仕組みを整えるものだ。
2022年に生成AIが登場すると、CAIに参加する4000のメディアやハードウェア、ソフトウェア企業は、生成されたコンテンツの出所や編集履歴を記録するための新たな技術基準の策定にも着手した。
AdobeのCAI担当シニアディレクター、アンディ・パーソンズ氏によれば、CAIは「悪意のある利用者を取り締まる」ことを目的としているわけではなく、正当に使っている側に透明性を担保する手段を提供するのが趣旨だ。
「これは“理解”に関する取り組みだ。コンテンツが何であるかを理解することは、人間の基本的権利の一つである。写真や映像が記録機器で撮影されたものであれ、完全に生成されたものであれ、一部だけ生成されたものであれ関係ない。最終的に、私たちが“真正性”について語るとき、それは“何が本物かを証明できる”ということを意味している」
Copyright © ITmedia, Inc. All Rights Reserved.