専用LLM環境を構築する方法はさまざまある。Metaが公開している「Llama」シリーズのようなオープンソースのLLMを自社が持つサーバで動かす方法は、システムが社内で完結するため情報漏えいリスクを抑えられるが、構築に専門知識が必要になる。

　SaaS型の専用LLMサービスは、Microsoftなどが提供するAPI経由でLLMを提供するもので、ユーザー側は最低限の知識があればChatGPTのように扱える。LLMに送信した情報はモデルの学習に使われないのが特徴で、ユーザーの業種に合わせた専用のプロンプト（LLMへの指示文）をテンプレートとして提供するものや、通信内容をチェックする機能が付属するものもある。マルチテナント型とシングルテナント型があり、用途に応じて製品を選ぶことになる。

企業によるLLM活用の「3ステップ」

　サービスを導入したからといって、いきなり一足飛びにLLMの高度な活用が実現するわけではない。企業によるLLMの活用は段階を踏みながら徐々に高度化していくのが望ましい。

　山川氏によれば、企業によるLLM活用には大きく分けて3つのステップがあるという。

　「第1ステップがSaaS型専用LLMサービスになるかなと思っています。ユーザー専用の管理画面があってAPI経由でLLMと会話でき、機密情報のチェック機能などで安全に使える環境の中で、業務にすぐ使えるプロンプトのテンプレートを活用していくのが最初です」

　第2ステップは自社データの活用だ。ChatGPTをはじめとするLLMサービスはインターネット上に公開されている情報を学習して構築されたものであるため、インターネットに公開されていない「その企業や組織に固有の情報」は学習しておらず、ユーザーから個別具体的な質問を受けても正しく回答できない。しかし業務でLLMを本格的に活用するとなると自社固有の情報まで扱えるようにする必要がある。

　この課題に応えるのが「RAG」（Retrieval-Augmented Generation）と呼ばれる技術だ。自社固有の情報をデータベース化し、LLMと接続して運用することで、自社固有の情報も扱えるようになる。

　そして第3ステップが、より自社業務に特化したLLM環境を実現するために、既存のLLMに自社固有の情報を追加学習させ、自社専用のLLMを開発してしまうというものだ。高度な専門知識を取り扱うケースや、極めて強固な情報漏えい対策が求められる用途、あるいはLLMの処理をデバイス内で完結させたい場合などでこの手法が用いられる。

専用LLMサービスを選定する際に考慮したいポイント

　専用LLMサービスを選定する際に考慮すべきポイントは幾つかある。以降で、その主だったものを挙げる。

コスト

　マルチテナント型で基本的な専用LLM環境とプロンプトのテンプレート、簡易的なRAGの機能を提供するサービスは比較的安価に導入できる。逆にオープンソースのLLMをカスタマイズ（ファインチューニング）して自社独自のLLM開発を行うとなると、膨大なコストがかかることを覚悟しておかなくてはならない。

　このように一口に「専用LLM」と言っても、目指すゴールによって規模とコストが大きく異なってくる。まずは専用LLM導入の「目的」と「コスト感」を明確化し、これに合致したサービスを選定することが肝要だ。

リージョン

　SaaS型専用LLMサービスの場合、環境はパブリッククラウド上に構築される。サービスがクラウドサービスのどのリージョンで運用されるかは、場合によっては重要な選定ポイントになる。特に個人情報を含む機密データを国外のデータセンターに持ち出されたくない企業にとって、サービスが日本国内のリージョンで運用されているのか、それとも海外のリージョンで運用されているかは重要な選定ポイントになるだろう。

マルチテナントかシングルテナントか

　例えば行政機関は万が一にも住民情報を外部に漏らしてはならず、情報漏えい対策に万全を期すために大半がシングルテナント型を選ぶという。また同じく大量の個人情報を扱うため厳格なセキュリティポリシーを持つ金融機関も、やはりマルチテナント型ではなくシングルテナント型を選ぶことが多いという。

業務特化型

　SaaS型専用LLMサービスの中には、特定の業種や業態でのユースケースに特化した機能をあらかじめ実装したものもあり、うまく自社の業務とフィットすれば業務での本格利用も可能だ。

　例えばCRMシステムと連携して営業担当者にアシスタント機能を提供するようなサービスや、マーケティング部門向けに潜在顧客のペルソナをLLMを使って生成するようなサービスが既に実現している。

　もしLLMを適用したい業務やユースケースが明確に見えている場合は、それに対応した業務特化型のサービスの導入を検討してみるのもいいだろう。

ベンダーの技術力

　「RAGは実装方法によって精度に大きな差が生じます。従って『サービス提供元ベンダーがチューニングに対応しており、柔軟に対応してくれるかどうか』『高いスキルやノウハウを有しているか』といった点は、サービスを選ぶ際の重要なポイントの1つになると思います」

導入教育

　LLMは登場してまだ日が浅い技術であるため、一部のリテラシーの高い従業員を除き、大半の従業員にとっては未知の部分が多い。そのため現場での利用定着を図るためにも、サービスの利用法や使いこなし方をレクチャーしてくれるコンテンツがあるか、教育サービスが充実しているかが選定基準になりえる。

　特にLLMには、従来のIT技術にはなかったハルシネーション（LLMが間違った内容を正しいことかのように生成する問題）のような固有のリスクも存在するため、これらについても学べるリテラシー教育の機会が提供されているとなお望ましいかもしれない。