AIサービスを提供する各社は、従来の定額制サブスクリプションから、利用量や成果に応じて料金を課す従量制・成果報酬型のモデルへと急速に移行している（注3）。Info-Tech Research Groupのテクニカルカウンセラー、ジャスティン・セント・モーリス氏はCIO Diveへのメールで、こうした料金体系の変化に対する企業側の管理が十分ではないと指摘した。

　「初期の段階では、多くのベンダーが、企業を自社の技術に『依存』させることを戦略としていた」と同氏は述べる。「導入段階では、実際にどれほどのコストがかかるのかが、事実上見えにくくなっていた」

　だが、現在、AIの利用料金は急速に膨らんでいる。セント・モーリス氏によると、その最大の要因の一つが、処理を何度も繰り返すAIエージェントだという。

　AIエージェントは、問題を自ら診断し、必要に応じてデータを再処理するなど、複数の処理を繰り返すことがある。そのため、処理回数が想定以上に増え、最終的な利用コストを事前に予測することが難しくなる。

　こうした懸念の高まりを受け、Snowflake（注4）、Amazon Web Services、Oracleなどのベンダーは、企業がAI関連のコストを把握・管理しやすくするための機能を相次いで導入している（注5）。

　それでも、AIの運用コストをより効率的に抑えたいと考えるCIOや経営幹部は、中国のAIモデルに注目する必要があるかもしれない。セント・モーリス氏によると、中国では米国の最先端モデルに匹敵する性能を持つオープンソースモデルの開発が進んでおり、用途によっては、企業がこうしたモデルの活用を検討する価値があるという。

　同氏は、今後のAI活用戦略として「マルチティア・コンピューティング」の考え方を取り入れることも提案している。つまり、比較的単純な処理はデスクトップPCなどの端末側で行い、より複雑な処理が必要になった場合にのみ、より高性能なクラウドやAIモデルへ処理を移すという方法だ。

　「今後は、マルチティア・コンピューティングを採用し、デスクトップなどの端末が基本的な処理の大部分を担い、必要な場合にのみ複雑なタスクを上位のコンピューティング環境へエスカレーションする戦略が有効になるだろう」とセント・モーリス氏は述べている。

　実際に、米保険大手のトラベラーズ・インシュアランスは、AIの運用コストを抑えるため、自社専用の大規模言語モデル（LLM）を開発した。

　同社のエグゼクティブ・バイスプレジデント兼最高技術・運用責任者（CTOO）、モジガン・ルフェーブル氏によると、「TravelersLLM」は保険関連の問い合わせへの対応に特化しており、最先端の汎用（はんよう）AIモデルを利用するよりも低コストで運用できるという。

　トラベラーズ・インシュアランスは現在も、より高度な推論やコーディングなどの処理には最先端のAIモデルを利用している。一方で、比較的単純な保険関連の業務には自社開発の低コストなモデルを使い分けることで、最先端モデルの利用によって増加するコストを相殺している（注6）。

　ルフェーブル氏は7月のインタビューで、自社モデルと最先端モデルを用途に応じて使い分けることが、AI活用に伴うコスト増を抑えるうえで有効だと説明する。