CIO Dive
「試して学ぶ」が鍵 生成AIと企業の向き合い方
ソフトウェアテストベンダーのApplauseによると、開発者や品質保証の専門家、一般の消費者は「生成AIは、出力内容の詳細が不足したり、プロンプトの意図を正確に理解できないことがよくある」と述べている。
ソフトウェアテストベンダーのApplauseが、4400人のソフトウェア開発者や品質保証の専門家、消費者を対象に実施した調査によると、生成AIの利用者の大半が、技術を使用する際に何らかの問題に直面しているという(注1)。
完璧ではない生成AI
最も多く報告されている問題は、出力結果に詳細な説明が欠けていることや、プロンプトの誤解、偏りが見られることなどだった。生成AIのユーザーのおよそ3人に1人が、あるツールから別のツールに乗り換えた経験があり、3分の1以上のユーザーは複数のツールをタスクに応じて使い分けている。
AIを活用したコーディングツールとしては、「GitHub Copilot」と「OpenAI Codex」が人気だ。品質保証の担当者は「テストケースの生成やテストデータ用のテキスト生成、テスト結果のレポート作成などにAIを活用している」と述べた。
TeamViewerが2024年11月に発表したレポートによると(注2)、ITおよび技術領域のリーダーの大半は、AIに課題はあるものの関連するリスクに対処できると考えているようだ。
初期導入者たちはイノベーションを継続しながらセキュリティと品質を確保する方法として「人間の関与を保つこと」や「その他の安全策を導入すること」の重要性を指摘している(注3)(注4)。
小売企業であるWalmartは、AIによるコーディング支援や補完ツールの初期導入により生産性の向上や展開の効率化といった成果を得られたことを受けて(注5)、開発者によるアクセスの範囲を拡大している。
Walmartでグローバルテクノロジープラットフォームを担当するスラヴァナ・カルナティ氏(エクゼクティブバイスプレジデント)によると、生成されたコードが規定の基準を満たしていることを確認するために、同社では本番環境にコードを投入する前に、正確性やセキュリティ、コンプライアンスなどをチェックするため複数のプロセスを設けているという。人による検証はこのプロセスの重要な部分である。
カルナティ氏は、CIO Diveに対して次のように述べた。
「ツールが完璧なものになるのを待つ必要はない。実際に試してみて、何がうまくいくのかを見極め、開発者をトレーニングしていこう」
リスクに対する許容度は組織ごとに異なる(注6)。CIOをはじめとする上級リーダーは、どこに線引きをするのかを明確にすべきだ。
Amazon Web Servicesのクリス・ベッツ氏(最高情報セキュリティ責任者)はCIO Diveに対し、「組織はユースケースに基づいてリスクレベルを判断すべきだ」と述べている。AIツールで従業員がコミュニケーションのために使う文書の初稿作成を支援する場面では、多少のミスが許容される余地がある。一方、一定の自律性をもってタスクを実行するAIエージェントを活用しようとする企業の場合(注7)、正確性を犠牲にすることは許されない。
「AIエージェントの場合許容できる誤りの範囲は非常に狭くなり、求められる品質基準がはるかに高くなるのだ。ここからはリスクに関する議論だ。脅威モデルを構築し、テストの品質や出力される回答の品質、他にどのような安全策があるかを確認し、それらを踏まえて意思決定する必要がある」(ベッツ氏)
出典:Generative AI users say outputs show bias, lack detail(CIO Dive)
注1:Applause 2025 AI Survey: Failure to Prioritize Testing and Embed Gen AI in Development at Odds With Increasing AI Investments(Business Wire)
注2:Most IT leaders like their chances against AI risks(CIO Dive)
注3:AI-powered software testing gains traction, but still needs guardrails(CIO Dive)
注4:CIOs turn to NIST to tackle generative AI’s many risks(CIO Dive)
注5:Walmart doubles down on AI with broader rollout of coding tools(CIO Dive)
注6:CIOs resist vendor-led AI hype, seeking out transparency(CIO Dive)
注7:AI agents spark interest, concern for businesses in 2025(CIO Dive)
Copyright © ITmedia, Inc. All Rights Reserved.
CIO Dive(キーマンズネット)
米国でビジネスジャーナリズムに特化した記事を掲載するIndustry Diveの、CIO(最高情報責任者)に関する連載「CIO Dive」の記事一覧です。
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
かんぽ生命が営業報告を50分→10分に AI時代に見直すべき「データ入力」の仕組み
-
2
C言語は「危険」と言われても、専門家が「使う価値は十分にある」と言うワケ:900th Lap
-
3
M365 Copilot全庁展開で月2000時間削減 現場がAIを「使いたくなる」習慣化の仕組み
-
4
6TBファイルのサーバ移行、M365ユーザーの八雲町がSharePointでなく「あえてBox」の理由
-
5
Claude Codeに「仕事を丸投げ」して事故らないための基本運用ルール
-
6
損保ジャパン、2万人の「Gemini活用」どう管理? 推進者が語る「リスク回避」の仕組み
-
7
「カスハラ対応」を個人に任せない 取手市がAIで変えた窓口業務
-
8
社員の「セキュリティ訓練」、他社はどの程度やっている? 気になる隣の実施状況
-
9
「Claude」3倍高速化の裏で、Anthropic開発者が「あえてしなかったこと」:899th Lap
-
10
20年物の基幹システム刷新に、マクロミルがあえて「全てを変えない」と決めた理由
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー