AIの利用料、どう減らす? 企業が「自前AI」と「高性能AI」を使い分ける理由
生成AIの活用が広がる一方、企業では利用コストの増大が新たな課題になっている。そこで注目されるのが、用途に応じたAIモデルの使い分けだ。保険大手のトラベラーズは、独自モデルと最先端モデルを組み合わせ、コストと性能の両立を目指している。
AIのコスト管理が、経営幹部にとって重要な課題になっている。こうした中、トラベラーズ保険など一部の企業では、用途に応じてAIモデルを使い分けるとともに、独自モデルを開発することでコストの最適化を図っている。
2025年に490億ドルの収益を上げ、約3万人の従業員を抱える保険会社のトラベラーズは、6月、独自の大規模言語モデル(LLM)「TravelersLLM」を発表した。
AIを“使い分け”たら、もっと安くなった トラベラーズの現実解
同社のエグゼクティブバイスプレジデント兼最高技術・運用責任者(CTO/COO)を務めるモジガン・ルフェーブル氏によると、TravelersLLMは保険に関する質問への回答で汎用(はんよう)的な商用AIモデルを上回る性能を発揮する一方、最先端のモデルよりも運用コストを抑えられるという。
もっとも、トラベラーズは独自モデルだけでAI活用を完結させようとしているわけではない。TravelersLLMは、最先端モデルと併用することを前提としており、AIの最先端を担う開発企業が提供する新たな技術や進歩を置き換えるものではない。
同社のアプリケーションは、処理するタスクの内容に応じて、TravelersLLMと最先端モデルを使い分ける。ルフェーブル氏によれば、全ての処理を高価な最先端モデルに任せる必要はなく、適切なタスクにはより低コストなモデルを割り当てることで、AI活用全体の費用対効果を高められるという。
「AIに限らず、私たちは技術への投資についてROI(投資対効果)を非常に重視しています。TravelersLLMも、同じ質問に答えるために最も高価な最先端モデルを使う必要がないのであれば、使うべきではないという考えに基づいています。『適切な問題に、適切なモデルを使う』という考え方が、TravelersLLMによって実現できるのです」
独自モデルを利用することで運用コストを抑えられるだけではない。複数のAIモデルを自社のエコシステム内で使い分けることで、特定の外部モデルやベンダーへの依存を避けられるというメリットもある。
ルフェーブル氏は、こうした取り組みについて「企業全体でAIを大規模に活用する際の経済性を高めるとともに、戦略上の柔軟性ももたらしてくれる」と説明する。
汎用AIでは足りない トラベラーズが「保険特化AI」を作ったワケ
保険業界は、専門性の高い知識を必要とする。ルフェーブル氏によれば、TravelersLLMは、汎用的なAIモデルだけでは十分に対応できなかったこうした領域のニーズを埋めるために開発された。
TravelersLLMは、数百万件に及ぶ社内文書を基に学習させ、保険関連の数万件の質問を使って性能を評価した。また、引受や保険金請求、業務、サービス管理など各分野の専門家とも連携して開発を進めたという。
狙いは、社内の専門家が持つ知識をAIに取り込み、組織全体の従業員が利用可能にすることだ。各アプリケーションはAPIを介してTravelersLLMなどのAIモデルにアクセスする。
ルフェーブル氏は、従業員がAIの基盤モデルを意識する必要はないと考えている。
「ほとんどの従業員にとって、基盤となるモデルは意識する必要のないものであるべきです。従業員が意思決定を行う際に、利用可能な最良の情報を得られることが重要なのです」
こうした「タスクに応じてAIモデルを使い分ける」という考え方は、最先端モデルの利用に伴うコスト増への対策として、企業の間で広がりつつある。
例えば、Snowflakeはコストと回答品質を基準に、処理するタスクを適切なAIモデルへ動的に振り分けるAIコスト管理機能を発表した。AWSやOracleも2026年に、AIのコスト管理を支援する機能やツールを相次いで提供している。
AI時代に効いた「10年前からの投資」 トラベラーズが重視したもの
トラベラーズは10年以上前からIT基盤の近代化に取り組んできた。ルフェーブル氏によれば、その中心にあるのがデータだ。
もっとも、同社が全てのレガシーシステムを刷新したわけではない。現在も一部には旧式のシステムが残っている。
同社が目指しているのは、全てを一律に最新化することではない。顧客や従業員にとって最大の価値が見込める領域を見極め、優先順位を付けて意図的に近代化を進めることだという。
今後も重要になるのが、データへのアクセス性と扱いやすさだ。さらに、企業内のデータをAIにつなぐためのセマンティックレイヤーやオントロジー、ナレッジグラフといったデータ基盤の整備も重要なテーマになっている。
トラベラーズでは現在、コンピューティング環境の約70%をクラウド上で稼働させているという。
ルフェーブル氏は、これまで進めてきたIT基盤の近代化や、データの接続性、アクセス性、品質への投資がなければ、現在のようなAI活用は実現できなかったと指摘する。
「近代化への投資に加え、データそのものやデータをつなぐ仕組み、つまりデータのアクセス性と品質に取り組んでこなければ、今日私たちがAIを使って実現していることは、決して可能にならなかったでしょう」
出典:Travelers builds its own LLM, cutting AI costs(CIO Dive)
注1:Advances in AI capabilities to outpace cost savings(CIO Dive)
注2:Travelers Advances AI Strategy with Award-Winning Insurance-Specific Large Language Model(Travelers)
注3:Snowflake adds cost control feature to Cortex AI Gateway(CIO Dive)
注4:Oracle, AWS among vendors working to curb rising AI costs(CIO Dive)
注5:Liberty Mutual, Travelers discuss when not to modernize(CIO Dive)
© Industry Dive. All rights reserved.
CIO Dive(キーマンズネット)
米国でビジネスジャーナリズムに特化した記事を掲載するIndustry Diveの、CIO(最高情報責任者)に関する連載「CIO Dive」の記事一覧です。
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
“脱・C言語”を狙う開発者が「Cの代替言語を作っても失敗する」と断言するワケ:894th Lap
-
2
「Gemini Notebook」で利用者10倍 シニア社員をAIヘビーユーザーにした首都高の考え
-
3
「新しいOutlook」って使ってる? 移行で変わるメール誤送信対策
-
4
「情シスやめます」と言われたら――ある日突然「ゼロ情シス」になった企業のその後
-
5
現役情シスに思い切って聞いてみた 「ぶっちゃけ、今なにが一番しんどいですか?」
-
6
スウェーデン発、AI議事録Klangが日本上陸 無料で文字起こし無制限
-
7
こんなところに野良AIが? 事例で解説、実際にあった2つの発覚パターンと防衛策
-
8
スクエニ開発陣が「ドラゴンクエストX」の世界観を守るのに「Gemini」が必要だったワケ
-
9
使わなくなったPCを、企業が処分したくてもできない理由
-
10
セキュリティ対策ゼロでSaaS導入? 役員もドン引きした「ヤバすぎる稟議」
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー