LLMではなく“SLM”という選択肢 OpenAIの小型モデル「GPT-4o mini」とは：CIO Dive

大規模言語モデル（LLM）に対して、小規模言語モデル（SLM）をリリースする企業が徐々に登場している。OpenAIは7月に小型モデル「GPT-4o mini」をリリース。GPT-3.5 Turboより60％以上安いという。

[Lindsey Wilkinson，キーマンズネット]

　2024年7月18日、OpenAIブログで、より小型で安価な「GPT-4o」のモデルをリリースしたと発表した（注1）。そのモデル「GPT-4o mini」は「GPT-3.5 Turbo」より60％以上安いという。

小型モデルの普及

　GPT-4o miniはAPIでテキストと視覚をサポートしている。OpenAIによると、このモデルは複数のAPIを呼び出すことができ、コンテキストとして完全なコードベースを使用し、チャットbotのためのリアルタイムの応答を提供するという。この小型モデルは2023年10月までの情報を基に構築されている。

　GPT-4o miniは、ChatGPTのFreeプラン、Plusプラン、Teamプランで利用可能で「GPT-3.5」に代わるモデルとなっている。OpenAIによると、エンタープライズユーザーは2024年7月22日の週からアクセスできている。

　組織が低価格で生成AIを活用しようとしていることを受けて、より小型のモデルが普及している。ユースケースに適した言語モデルの選択は組織のニーズと利用可能なリソースに依存する。

　2024年4月、Microsoftはオープンで小型の言語モデル「Phi-3 family」を発表した（注2）。Googleは同年2月に「Gemma」と呼ばれる軽量モデルを発表している（注3）。オープンソースのAI技術を支援する「Hugging Face」のようなプラットフォームも、多数の小型モデルへのアクセスを提供している。

　小規模なモデルはコストを削減できるが、大規模なモデルに関連するリスクを減らすことはできない。懸念に対処するため、OpenAIはGPT-4o miniを評価する専門家チームを起用した。

　OpenAIは、次のように述べている。

　「社会心理学や誤った情報などの分野で70人以上の外部専門家がGPT-4oをテストし、潜在的なリスクを特定した。これらのリスクには対処済みで、今後公開予定のGPT-4oのシステムカードおよび準備度に関するスコアカードで詳細を共有する予定だ」

　生成AIは企業の戦略における優先事項であるにもかかわらず、ほとんどの技術リーダーは大規模な導入に向けて自社の準備が整っているとは考えていない。

　IT担当者は、生成AIを支えるシステムに使用されるデータについて懸念を抱いており（注4）、企業の技術インフラもまだ十分なレベルに達していない（注5）。さらにコストやセキュリティの問題が、大規模なプロジェクトの実現を阻む要因となっている（注6）。

　CIO（最高技術責任者）たちは、進展を脅かす障害を克服しようと取り組んでおり、ベンダー主導の迅速な導入圧力に抵抗している（注7）。各業界の技術リーダーたちは組織の準備状況を評価し、C-suiteやステークホルダーと連携しながら、独自のペースで導入計画を進めている（注8）。

　ベンダーは、セキュリティや安全性のガードレールを追加して契約条件を強化しようとしている。2024年7月18日にOpenAIは「ChatGPT Enterprise」向けにいくつかのコンプライアンスおよび管理ツールをリリースした（注9）。これには、監査要件の支援やデータ損失の防止、ポリシー適用をサポートするAPIが含まれている。

出典：OpenAI unveils GPT-4o mini, a cost-efficient model（Cybersecurity Dive）
注1：GPT-4o mini: advancing cost-efficient intelligence（OpenAI）
注2：Tiny but mighty: The Phi-3 small language models with big potential（Microsoft）
注3：Google brings Gemini to Workspace suite, launches Gemma AI models（CIO Dive）
注4：IT pros worry over the data that fuels AI（CIO Dive）
注5：Not ready for AI: Enterprises grapple with data, infrastructure gaps（CIO Dive）
注6：AI cost, security worries stand in the way of scalable solutions（CIO Dive）
注7：CIOs resist vendor-led AI hype, seeking out transparency（CIO Dive）
注8：How CIOs set the pace of generative AI adoption（CIO Dive）
注9：New compliance and administrative tools for ChatGPT Enterprise（OpenAI）

原文へのリンク