ChatGPTライクな自社専用の生成AI環境を構築できる「専用LLMサービス」とは？

「ChatGPT」のようなLLMサービスを自社専用の環境で使いたいという企業に向け、SaaS型「専用LLMサービス」が提供されている。今回は企業向けChatGPT活用プラットフォーム「法人GAI」を提供するギブリーの山川雄志取締役に、サービスの選定方法について聞いた。

[吉村哲樹，オフィスティーワイ]

自社専用の生成AI環境を手軽に実現可能な「専用LLM」サービス

　現在多くの企業が自社業務で生成AIを活用する道を模索しているが、その際に大いに役立つかもしれないのが、自社専用の生成AI環境を手軽に実現できるSaaS型の「専用LLMサービス」だ。

　2022年末に「ChatGPT」が登場し、世界中でブームを巻き起こした際、ITリテラシーの高いビジネスパースンは自身の業務にLLM（大規模言語モデル）をどのように役立てられるかをこぞって試し始めた。その結果、資料の要約や議事録作成、情報収集など、さまざまな用途でLLMが大いに役立つことが徐々に分かってきた。

　しかし、中にはChatGPTや「Claude」のようなLLMサービスを個人的に契約していわゆる「シャドーIT」の形で利用する人もいる。これを放置していると従業員がサービスに入力した自社の機密情報が再学習されるなど、情報漏えい対策やガバナンスの面でのリスクが指摘されている。

　そこで自社のセキュリティポリシーやルールを順守しつつ、従業員がLLMの業務利用の可能性を積極的に探れるよう、自社専用のLLM環境を構築する企業が出てきた。

　そこで登場したのがSaaS型の専用LLMサービスだ。たとえ独力で自社専用のLLM環境を構築できない企業であっても、これらのサービスをうまく活用することで同じくLLMの業務利用を安全かつ手軽に試せるようになった。

　今回は企業向けChatGPT活用プラットフォーム「法人GAI」を提供するギブリーの山川雄志取締役に、SaaS型専用LLMサービスの選定方法について聞いた。

「専用LLMサービス」とは　メリット、サービス選定のポイント

　専用LLM環境を構築する方法はさまざまある。Metaが公開している「Llama」シリーズのようなオープンソースのLLMを自社が持つサーバで動かす方法は、システムが社内で完結するため情報漏えいリスクを抑えられるが、構築に専門知識が必要になる。

　SaaS型の専用LLMサービスは、Microsoftなどが提供するAPI経由でLLMを提供するもので、ユーザー側は最低限の知識があればChatGPTのように扱える。LLMに送信した情報はモデルの学習に使われないのが特徴で、ユーザーの業種に合わせた専用のプロンプト（LLMへの指示文）をテンプレートとして提供するものや、通信内容をチェックする機能が付属するものもある。マルチテナント型とシングルテナント型があり、用途に応じて製品を選ぶことになる。

企業によるLLM活用の「3ステップ」

　サービスを導入したからといって、いきなり一足飛びにLLMの高度な活用が実現するわけではない。企業によるLLMの活用は段階を踏みながら徐々に高度化していくのが望ましい。

　山川氏によれば、企業によるLLM活用には大きく分けて3つのステップがあるという。

　「第1ステップがSaaS型専用LLMサービスになるかなと思っています。ユーザー専用の管理画面があってAPI経由でLLMと会話でき、機密情報のチェック機能などで安全に使える環境の中で、業務にすぐ使えるプロンプトのテンプレートを活用していくのが最初です」

　第2ステップは自社データの活用だ。ChatGPTをはじめとするLLMサービスはインターネット上に公開されている情報を学習して構築されたものであるため、インターネットに公開されていない「その企業や組織に固有の情報」は学習しておらず、ユーザーから個別具体的な質問を受けても正しく回答できない。しかし業務でLLMを本格的に活用するとなると自社固有の情報まで扱えるようにする必要がある。

　この課題に応えるのが「RAG」（Retrieval-Augmented Generation）と呼ばれる技術だ。自社固有の情報をデータベース化し、LLMと接続して運用することで、自社固有の情報も扱えるようになる。

　そして第3ステップが、より自社業務に特化したLLM環境を実現するために、既存のLLMに自社固有の情報を追加学習させ、自社専用のLLMを開発してしまうというものだ。高度な専門知識を取り扱うケースや、極めて強固な情報漏えい対策が求められる用途、あるいはLLMの処理をデバイス内で完結させたい場合などでこの手法が用いられる。

専用LLMサービスを選定する際に考慮したいポイント

　専用LLMサービスを選定する際に考慮すべきポイントは幾つかある。以降で、その主だったものを挙げる。

コスト

　マルチテナント型で基本的な専用LLM環境とプロンプトのテンプレート、簡易的なRAGの機能を提供するサービスは比較的安価に導入できる。逆にオープンソースのLLMをカスタマイズ（ファインチューニング）して自社独自のLLM開発を行うとなると、膨大なコストがかかることを覚悟しておかなくてはならない。

　このように一口に「専用LLM」と言っても、目指すゴールによって規模とコストが大きく異なってくる。まずは専用LLM導入の「目的」と「コスト感」を明確化し、これに合致したサービスを選定することが肝要だ。

リージョン

　SaaS型専用LLMサービスの場合、環境はパブリッククラウド上に構築される。サービスがクラウドサービスのどのリージョンで運用されるかは、場合によっては重要な選定ポイントになる。特に個人情報を含む機密データを国外のデータセンターに持ち出されたくない企業にとって、サービスが日本国内のリージョンで運用されているのか、それとも海外のリージョンで運用されているかは重要な選定ポイントになるだろう。

マルチテナントかシングルテナントか

　例えば行政機関は万が一にも住民情報を外部に漏らしてはならず、情報漏えい対策に万全を期すために大半がシングルテナント型を選ぶという。また同じく大量の個人情報を扱うため厳格なセキュリティポリシーを持つ金融機関も、やはりマルチテナント型ではなくシングルテナント型を選ぶことが多いという。

業務特化型

　SaaS型専用LLMサービスの中には、特定の業種や業態でのユースケースに特化した機能をあらかじめ実装したものもあり、うまく自社の業務とフィットすれば業務での本格利用も可能だ。

　例えばCRMシステムと連携して営業担当者にアシスタント機能を提供するようなサービスや、マーケティング部門向けに潜在顧客のペルソナをLLMを使って生成するようなサービスが既に実現している。

　もしLLMを適用したい業務やユースケースが明確に見えている場合は、それに対応した業務特化型のサービスの導入を検討してみるのもいいだろう。

ベンダーの技術力

　「RAGは実装方法によって精度に大きな差が生じます。従って『サービス提供元ベンダーがチューニングに対応しており、柔軟に対応してくれるかどうか』『高いスキルやノウハウを有しているか』といった点は、サービスを選ぶ際の重要なポイントの1つになると思います」

導入教育

　LLMは登場してまだ日が浅い技術であるため、一部のリテラシーの高い従業員を除き、大半の従業員にとっては未知の部分が多い。そのため現場での利用定着を図るためにも、サービスの利用法や使いこなし方をレクチャーしてくれるコンテンツがあるか、教育サービスが充実しているかが選定基準になりえる。

　特にLLMには、従来のIT技術にはなかったハルシネーション（LLMが間違った内容を正しいことかのように生成する問題）のような固有のリスクも存在するため、これらについても学べるリテラシー教育の機会が提供されているとなお望ましいかもしれない。