AIツールを活用した開発のデメリットを尋ねた結果、最も多くの票を集めたのは「生成されたコードの意図や構造を理解しないまま使うことで、いわゆる『理解負債』がたまる」（53.8％）だった。「AIへの依存が強まり、AIなしでは開発できなくなる」（40.6％）、「若手や初学者の基礎的なスキルが育ちにくくなる」（39.6％）が続いた。「機密コードやデータを外部に渡すことで情報が漏れるリスクが高まる」を選んだ割合は23.6％で、5位にとどまった。

図2　AIツールを活用した開発におけるデメリット（複数回答可）

　上位3項目はいずれも、開発の知見やスキルが人間に蓄積されないことを懸念するものだ。1位の「理解負債」は、開発にAIを実際に利用している層に絞ると67.5％に上がる。回答者を情報システム部門に所属する人に限定しても、この項目はやはり1位になる。

　AIが書いたコードの質はどうか。AIを利用している層のうち開発に直接携わっている人に対し、AIが書いたコードと人間が書いたコードで「エラーや欠陥の質」がどう違うかを尋ねた。

　その結果、最も多く選ばれたのは「単純なミスは減ったが、アーキテクチャの不整合やセキュリティ脆弱（ぜいじゃく）性などの『深い欠陥』は増えた、または目立つようになった」という項目（40.6％）だった。もっとも、この回答からはAIの利用によって欠陥自体が増えたのかは判別できない。人間による開発で発生していた単純ミスが減ったことで、「深い欠陥」が相対的に目立っている可能性もある。

　「単純なミスも深い欠陥も両方減った」は18.8％、「人間が書く場合と特に変わらない」は15.6％だった。

　読者からはフリーコメントとして、「プロジェクト単位での整合性は確認していない。単体テストは通過するが、システムテストでは全く機能しない事案が発生する頻度が増えた」（製造業、情報システム部門）という声が寄せられた。

　気になるのは、「AI生成コードの検証をしていないため分からない」という項目を18.8％の回答者が選んでいる点だ。

AI開発のトラブル、50％が「把握できていない」

　AIを使って開発する中で、IT部門が対応に追われるようなトラブルや事件は起きているのだろうか。今回の調査では、「業務停止や情報漏えい、大幅な予算超過といった大きな実害を伴う事件が発生した」と答えた人はいなかった。「実害はないが、対応に追われるような小・中規模のトラブルが複数回発生している」という回答は12.5％、「同じトラブルが1～2回発生した」という回答は15.0％だった。「トラブルや事件は起きておらず、健全に運用されている」という回答は22.5％だった。

　AIを開発に使い始めてから日が浅く、大きなインシデントがまだ表面化していないだけという可能性もある。ただし「把握できていない・分からない」（50.0％）が最も多く選ばれていることは、今後を考える上で懸念すべき点だ。回答者を情報システム部門に所属する人に絞った場合も、最も多くの人が「把握できていない・分からない」を選んでいる。

図3　AIを使った開発によるトラブル・事件の発生状況

　従業員規模別に見ると、101～1000人の企業に勤める人の66.7％、1001人以上の企業に勤める人の55.0％が「把握できていない」と答えている。100人以下の企業に勤める人では12.5％にとどまり、101人以上の企業に勤める人との間で大きく差がついた。

　「インシデントを把握できていない」という答えの背景には、AIがどの部署、どの規模で使われているかを把握できていないという問題がある。

　開発におけるAIの利用規模を尋ねた設問に対しては、「全社で利用している」を選んだ人が37.8％、「一部の部署で利用している」を選んだ人が35.1％、「個人レベルで利用している」を選んだ人が27.0％だった。

　非エンジニアの従業員がAIツールを使って開発に取り組んでいるかを尋ねた設問に対しては、「把握していない」との答えが25.0％を占めた。この設問への答えとして、「取り組んでいる」は40.0％、「現在は取り組んでおらず、将来的にも取り組む予定はない」は17.5％だった。

　今回は、AIを開発に利用するメリットとデメリットを中心に見てきた。AI活用のメリットとして「定型的なコードやテストコードを速く生成できる」（53.8％）、「開発のスピードや生産性が全体的に向上する」（52.8％）が上位に並んだ。開発スピードの向上を実感している人が多い。今回の調査では大きな実害を伴う事件が起きたと回答した読者はいなかった。

　一方で、AIを開発に利用している範囲がどこまで広がり、どのようなトラブルが起きているのか、情報システム部門から見えにくくなっているようだ。

　今後、AIの適用を予定している層も一定数（23.6％）存在する。近い将来、過半数の読者がAIを開発に利用するようになる中で、トラブル発生を防止する前段階として、情報システム部門が利用実態を把握する必要性は高い。

　後編では、読者が遭遇した具体的なインシデントを取り上げ、AIを活用した開発を今後安全かつ効率的に進めるための体制づくりを考える。