AIの利用料、どう減らす? 企業が「自前AI」と「高性能AI」を使い分ける理由
生成AIの活用が広がる一方、企業では利用コストの増大が新たな課題になっている。そこで注目されるのが、用途に応じたAIモデルの使い分けだ。保険大手のトラベラーズは、独自モデルと最先端モデルを組み合わせ、コストと性能の両立を目指している。
AIのコスト管理が、経営幹部にとって重要な課題になっている。こうした中、トラベラーズ保険など一部の企業では、用途に応じてAIモデルを使い分けるとともに、独自モデルを開発することでコストの最適化を図っている。
2025年に490億ドルの収益を上げ、約3万人の従業員を抱える保険会社のトラベラーズは、6月、独自の大規模言語モデル(LLM)「TravelersLLM」を発表した。
AIを“使い分け”たら、もっと安くなった トラベラーズの現実解
同社のエグゼクティブバイスプレジデント兼最高技術・運用責任者(CTO/COO)を務めるモジガン・ルフェーブル氏によると、TravelersLLMは保険に関する質問への回答で汎用(はんよう)的な商用AIモデルを上回る性能を発揮する一方、最先端のモデルよりも運用コストを抑えられるという。
もっとも、トラベラーズは独自モデルだけでAI活用を完結させようとしているわけではない。TravelersLLMは、最先端モデルと併用することを前提としており、AIの最先端を担う開発企業が提供する新たな技術や進歩を置き換えるものではない。
同社のアプリケーションは、処理するタスクの内容に応じて、TravelersLLMと最先端モデルを使い分ける。ルフェーブル氏によれば、全ての処理を高価な最先端モデルに任せる必要はなく、適切なタスクにはより低コストなモデルを割り当てることで、AI活用全体の費用対効果を高められるという。
「AIに限らず、私たちは技術への投資についてROI(投資対効果)を非常に重視しています。TravelersLLMも、同じ質問に答えるために最も高価な最先端モデルを使う必要がないのであれば、使うべきではないという考えに基づいています。『適切な問題に、適切なモデルを使う』という考え方が、TravelersLLMによって実現できるのです」
独自モデルを利用することで運用コストを抑えられるだけではない。複数のAIモデルを自社のエコシステム内で使い分けることで、特定の外部モデルやベンダーへの依存を避けられるというメリットもある。
ルフェーブル氏は、こうした取り組みについて「企業全体でAIを大規模に活用する際の経済性を高めるとともに、戦略上の柔軟性ももたらしてくれる」と説明する。
汎用AIでは足りない トラベラーズが「保険特化AI」を作ったワケ
保険業界は、専門性の高い知識を必要とする。ルフェーブル氏によれば、TravelersLLMは、汎用的なAIモデルだけでは十分に対応できなかったこうした領域のニーズを埋めるために開発された。
TravelersLLMは、数百万件に及ぶ社内文書を基に学習させ、保険関連の数万件の質問を使って性能を評価した。また、引受や保険金請求、業務、サービス管理など各分野の専門家とも連携して開発を進めたという。
狙いは、社内の専門家が持つ知識をAIに取り込み、組織全体の従業員が利用可能にすることだ。各アプリケーションはAPIを介してTravelersLLMなどのAIモデルにアクセスする。
ルフェーブル氏は、従業員がAIの基盤モデルを意識する必要はないと考えている。
「ほとんどの従業員にとって、基盤となるモデルは意識する必要のないものであるべきです。従業員が意思決定を行う際に、利用可能な最良の情報を得られることが重要なのです」
こうした「タスクに応じてAIモデルを使い分ける」という考え方は、最先端モデルの利用に伴うコスト増への対策として、企業の間で広がりつつある。
例えば、Snowflakeはコストと回答品質を基準に、処理するタスクを適切なAIモデルへ動的に振り分けるAIコスト管理機能を発表した。AWSやOracleも2026年に、AIのコスト管理を支援する機能やツールを相次いで提供している。
AI時代に効いた「10年前からの投資」 トラベラーズが重視したもの
トラベラーズは10年以上前からIT基盤の近代化に取り組んできた。ルフェーブル氏によれば、その中心にあるのがデータだ。
もっとも、同社が全てのレガシーシステムを刷新したわけではない。現在も一部には旧式のシステムが残っている。
同社が目指しているのは、全てを一律に最新化することではない。顧客や従業員にとって最大の価値が見込める領域を見極め、優先順位を付けて意図的に近代化を進めることだという。
今後も重要になるのが、データへのアクセス性と扱いやすさだ。さらに、企業内のデータをAIにつなぐためのセマンティックレイヤーやオントロジー、ナレッジグラフといったデータ基盤の整備も重要なテーマになっている。
トラベラーズでは現在、コンピューティング環境の約70%をクラウド上で稼働させているという。
ルフェーブル氏は、これまで進めてきたIT基盤の近代化や、データの接続性、アクセス性、品質への投資がなければ、現在のようなAI活用は実現できなかったと指摘する。
「近代化への投資に加え、データそのものやデータをつなぐ仕組み、つまりデータのアクセス性と品質に取り組んでこなければ、今日私たちがAIを使って実現していることは、決して可能にならなかったでしょう」
出典:Travelers builds its own LLM, cutting AI costs(CIO Dive)
注1:Advances in AI capabilities to outpace cost savings(CIO Dive)
注2:Travelers Advances AI Strategy with Award-Winning Insurance-Specific Large Language Model(Travelers)
注3:Snowflake adds cost control feature to Cortex AI Gateway(CIO Dive)
注4:Oracle, AWS among vendors working to curb rising AI costs(CIO Dive)
注5:Liberty Mutual, Travelers discuss when not to modernize(CIO Dive)
© Industry Dive. All rights reserved.
CIO Dive(キーマンズネット)
米国でビジネスジャーナリズムに特化した記事を掲載するIndustry Diveの、CIO(最高情報責任者)に関する連載「CIO Dive」の記事一覧です。
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
48年も愛された名作CPU「Z80」を、引退に追い込んだ“抗えない事情”
-
2
Microsoftの“あのキャラ”がまさかの復活? 公式「X」乗っ取り事件の珍騒動:901st Lap
-
3
止まらない不正アクセス、広がる情報漏えい 大手企業・公的機関を襲った10事案
-
4
Claude Codeに「仕事を丸投げ」して事故らないための基本運用ルール
-
5
C言語は「危険」と言われても、専門家が「使う価値は十分にある」と言うワケ:900th Lap
-
6
6TBファイルのサーバ移行、M365ユーザーの八雲町がSharePointでなく「あえてBox」の理由
-
7
M365 Copilot全庁展開で月2000時間削減 現場がAIを「使いたくなる」習慣化の仕組み
-
8
損保ジャパン、2万人の「Gemini活用」どう管理? 推進者が語る「リスク回避」の仕組み
-
9
情報処理安全確保支援士試験、10月6日に申込み開始 CBT化で受験対策はどう変わる?
-
10
生成AI導入に失敗する企業「6つの共通点」 情シスヘルプデスクの負担を減らす設計とは
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー