「生成AI導入で大問題」にならない企業が忘れずにやっていること

AIツールの進化がめざましく、企業でも導入が進んでいる。専門家によれば、AIに関するさまざまなリスクに対処するため、「ある対策」を講じる必要があるようだ。

[Carolyn Crist，HR Dive]

　MIT Sloan Management ReviewとBoston Consulting Group（BCG）が2023年6月20日に発表した報告書によると（注1）、70％以上の企業がAI（人工知能）ツールのリスクへの対応に苦慮している。最新の状況に後れを取らないようにするためには、責任あるAI（以下、RAI）に関するプログラムの導入を検討すべきだとされる。

　特にサードパーティー製のAIツールには重大なリスクがあり、風評被害や顧客の信頼喪失、財務上の損失、法規違反による罰則、コンプライアンス上の課題、訴訟などにつながる恐れがある。

AIのリスクに企業はどう立ち向かうべきか

　同報告書の共著者であり、MIT Sloan Management Reviewのゲストエディターであるエリザベス・レニエリス氏は次のように述べている（注2）。

　「技術面においても規制面においても、AIを取り巻く環境は、私たちが2022年に（前回の）報告書を発表してから大きく変わった。生成AIの急速な普及により、AIは食卓の話題になった。しかし、基本的なことに大きな変化はない。2023年の私たちの調査によると、拡大するAIの利用とリスクに対応するために、投資によってRAIに関するプログラムを拡大することが急務だ」

サードパーティー製のAIのツールに依存する企業が多い

　同報告書には、59の産業と87の国々において年間売上高が1億ドル以上の企業を代表する1240人の回答者によるグローバルな調査結果が含まれている。その結果によると、78％の企業がサードパーティー製のAIツールに「大きく」依存しており、53％は「完全に」依存している。これにより、企業はさまざまなリスクにさらされるが、その中にはリーダーたちが気づいていない、または理解していないリスクも含まれている。

　実際のところ、サードパーティー製のAIツールを使用している企業の5分の1は、リスクを全く評価していない。「これらの状況を改め、企業はサードパーティー製AIツールを適切に評価し、新たな規制に備えてRAIに関する取り組みにCEOを参加させ、適切なRAIのプログラムに迅速に移行する必要がある」と本報告書の著者は指摘している。

　模範的な企業はサードパーティー製AIツールを評価し、リスクを軽減するためにさまざまなアプローチを用いている。「ベンダーの事前認証と監査」や「製品レベルの社内レビュー」「RAIの原則を定めた契約条件の採用」「AI関連の規制要件と業界基準の順守」などを含む7つの異なる手法を導入した企業がツールの欠陥を発見する確率は51％で、3つの手法しか導入していない企業における確率は24％だ。

CEOが実践的な役割を果たすことも重要

　また、RAIに関する議論にCEOが参加することも重要だ。RAIの採用決定、製品レベルの議論、業績目標などの議論にCEOが参加し、実践的な役割を担う企業は、実践的な役割を果たさないCEOがいる企業と比較して、58％もビジネス上のメリットが大きいと報告されている。

　レポートの共著者で、BCGのチーフ・AIエシックスオフィサーであるスティーブン・ミルズ氏は次のように述べる。

　「今こそ、企業はRAIに関するプログラムの強化のために投資すべきだ。テクノロジーがRAIに関する取り組みを上回っているように感じるかもしれないが、解決策はRAIに対する取り組みを強化することであり、後退することではない。企業はビジネスとして価値を提供し、リスクを管理するために、RAIに関するプログラムにリーダーシップとリソースを投入すべきだ」

　AIのリスクが明らかになるに連れて、州や連邦政府当局は職場における自動化ツールの規制を検討している。ホワイトハウスは、従業員の「監視やモニタリング、評価、管理」に使用される技術を評価する計画を発表した（注3）。さらに、34の州の議会でAIに関連する160以上の法案や規制が審議中である（注4）。

　米国の雇用機会均等委員会（EEOC）にとって、雇用差別は、雇用や解雇の決定にAIベースのプラットフォームを使用する場合に考慮すべき重要なリスクである（注5）。これに対応するために、都市や州は自動化された雇用判断ツールを規制し、それらのツールの使用を求職者に通知する内容の立法を検討している。

出典：71% of organizations struggling to keep up with new AI risks, report finds（HR Dive）
注1：Responsible AI at a Crossroads（Boston Consulting Group）
注2：Emerging AI Risks Underscore Urgent Need for Responsible AI; More than 70% of Organizations Are Struggling to Keep Up（Boston Consulting Group）
注3：White House to scrutinize use of AI, worker tracking tools（HR Dive）
注4：‘Tsunami’ of state AI regulation coming（HR Dive）
注5：EEOC looks to outsmart AI in employment（HR Dive）