CIO Dive
「試して学ぶ」が鍵 生成AIと企業の向き合い方
ソフトウェアテストベンダーのApplauseによると、開発者や品質保証の専門家、一般の消費者は「生成AIは、出力内容の詳細が不足したり、プロンプトの意図を正確に理解できないことがよくある」と述べている。
ソフトウェアテストベンダーのApplauseが、4400人のソフトウェア開発者や品質保証の専門家、消費者を対象に実施した調査によると、生成AIの利用者の大半が、技術を使用する際に何らかの問題に直面しているという(注1)。
完璧ではない生成AI
最も多く報告されている問題は、出力結果に詳細な説明が欠けていることや、プロンプトの誤解、偏りが見られることなどだった。生成AIのユーザーのおよそ3人に1人が、あるツールから別のツールに乗り換えた経験があり、3分の1以上のユーザーは複数のツールをタスクに応じて使い分けている。
AIを活用したコーディングツールとしては、「GitHub Copilot」と「OpenAI Codex」が人気だ。品質保証の担当者は「テストケースの生成やテストデータ用のテキスト生成、テスト結果のレポート作成などにAIを活用している」と述べた。
TeamViewerが2024年11月に発表したレポートによると(注2)、ITおよび技術領域のリーダーの大半は、AIに課題はあるものの関連するリスクに対処できると考えているようだ。
初期導入者たちはイノベーションを継続しながらセキュリティと品質を確保する方法として「人間の関与を保つこと」や「その他の安全策を導入すること」の重要性を指摘している(注3)(注4)。
小売企業であるWalmartは、AIによるコーディング支援や補完ツールの初期導入により生産性の向上や展開の効率化といった成果を得られたことを受けて(注5)、開発者によるアクセスの範囲を拡大している。
Walmartでグローバルテクノロジープラットフォームを担当するスラヴァナ・カルナティ氏(エクゼクティブバイスプレジデント)によると、生成されたコードが規定の基準を満たしていることを確認するために、同社では本番環境にコードを投入する前に、正確性やセキュリティ、コンプライアンスなどをチェックするため複数のプロセスを設けているという。人による検証はこのプロセスの重要な部分である。
カルナティ氏は、CIO Diveに対して次のように述べた。
「ツールが完璧なものになるのを待つ必要はない。実際に試してみて、何がうまくいくのかを見極め、開発者をトレーニングしていこう」
リスクに対する許容度は組織ごとに異なる(注6)。CIOをはじめとする上級リーダーは、どこに線引きをするのかを明確にすべきだ。
Amazon Web Servicesのクリス・ベッツ氏(最高情報セキュリティ責任者)はCIO Diveに対し、「組織はユースケースに基づいてリスクレベルを判断すべきだ」と述べている。AIツールで従業員がコミュニケーションのために使う文書の初稿作成を支援する場面では、多少のミスが許容される余地がある。一方、一定の自律性をもってタスクを実行するAIエージェントを活用しようとする企業の場合(注7)、正確性を犠牲にすることは許されない。
「AIエージェントの場合許容できる誤りの範囲は非常に狭くなり、求められる品質基準がはるかに高くなるのだ。ここからはリスクに関する議論だ。脅威モデルを構築し、テストの品質や出力される回答の品質、他にどのような安全策があるかを確認し、それらを踏まえて意思決定する必要がある」(ベッツ氏)
出典:Generative AI users say outputs show bias, lack detail(CIO Dive)
注1:Applause 2025 AI Survey: Failure to Prioritize Testing and Embed Gen AI in Development at Odds With Increasing AI Investments(Business Wire)
注2:Most IT leaders like their chances against AI risks(CIO Dive)
注3:AI-powered software testing gains traction, but still needs guardrails(CIO Dive)
注4:CIOs turn to NIST to tackle generative AI’s many risks(CIO Dive)
注5:Walmart doubles down on AI with broader rollout of coding tools(CIO Dive)
注6:CIOs resist vendor-led AI hype, seeking out transparency(CIO Dive)
注7:AI agents spark interest, concern for businesses in 2025(CIO Dive)
Copyright © ITmedia, Inc. All Rights Reserved.
CIO Dive(キーマンズネット)
米国でビジネスジャーナリズムに特化した記事を掲載するIndustry Diveの、CIO(最高情報責任者)に関する連載「CIO Dive」の記事一覧です。
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
「Copilot、Word文書まとめて」で社内全滅? 勝手に増殖するAIウイルスで大騒ぎ:895th Lap
-
2
ソニー子会社、M365環境にあえて「Gemini」を導入 システムを競合させない工夫とは
-
3
現役情シスに聞いた「忙しすぎる理由」 やりたいけど手が回らない仕事とは? 228人調査
-
4
「AIコーディングで高速開発」が、なぜ企業の弱点に? 開発部門のAIとの付き合い方
-
5
【対談】「ひとり情シス」は悪ではない 担当者が辞めても「回る情シス」の作り方
-
6
SOAPはRESTに負けたのか? 「古いAPI」を残すか見直すか
-
7
「AIを入れたのに、仕事が変わらない」 企業が見落としている"使い方"
-
8
三井不動産に不正アクセス、最大5万5000件の情報漏えい可能性 一連の流れを整理
-
9
“脱・C言語”を狙う開発者が「Cの代替言語を作っても失敗する」と断言するワケ:894th Lap
-
10
「Gemini Notebook」で利用者10倍 シニア社員をAIヘビーユーザーにした首都高の考え
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー