小さな言語モデル（SLM）の使いどころ：大きなモデルとどう使い分けるか

自社の「基盤とセキュリティ」の準備度は？10問・約3分で確かめる（無料・登録不要）

生成AIというと、クラウドで提供される大きなモデルを思い浮かべる方が多いと思います。一方で、軽くて手元の機器でも動く小さな言語モデル（SLM：Small Language Model）も増えています。このコラムでは、SLMがどんな場面に向いているのか、大きなモデルとどう使い分けるのかを整理します。

小さな言語モデル（SLM）とは何ですか？

SLMは、大規模言語モデル（LLM）に比べて、モデルの規模を小さくした言語モデルです。規模が小さい分、動かすのに必要な計算の資源が少なく、手元のPCやサーバー、機器の上でも動かしやすいことが特徴です。

例として、Microsoft は Phi という小さな言語モデルのファミリーについて、クラウドに接続せずに機器の上でAIを動かせること、ローカル・クラウド・エッジなど置き場所を選べること、低い遅延を目指して設計されていることを説明しています。また Google は、2024年2月に Gemma というオープンモデルを公開した当時、ノートPC、ワークステーション、Google Cloud で動くと説明していました（現在の版の条件は、提供元の公式のページでご確認ください）。いずれも提供元の説明であり、性能や条件はモデルや版によって異なります。

SLMはどんな業務に向いていますか？

SLMの特徴は、「手元で動かせる」「軽い」「対象を絞ると役立つ」の3つにまとめられます。そこから、次のような業務が向いていると考えられます。

• 情報を社外に出しにくい業務： 手元の環境で動かせば、入力した情報を外部のサービスに送らずに済む使い方ができます。社内の文書の要約や分類などで検討できます
• 通信が不安定な現場： 工場や倉庫、移動中の機器など、クラウドに常につながるとは限らない場所で使えます。考え方はエッジAIとはもあわせてご覧ください
• 決まった作業の繰り返し： 問い合わせの分類、決まった形式の文書からの項目の取り出しなど、対象を絞った作業では、小さなモデルでも役立つことがあります

一方、幅広い知識が要る調べもの、複雑な推論、長い文書を踏まえた判断などは、大きなモデルの方が向いている場合が多いと考えられます。

大きなモデルとは、どう使い分ければよいですか？

どちらか一方に決めるのではなく、役割で使い分けると効果を出しやすくなります。たとえば、社内の文書を分類する一次の作業は手元のSLMで行い、分類した後の難しい判断の手伝いは大きなモデルに任せる、といった組み合わせが考えられます。

使い分けを考えるときは、次の点を比べます。

• 扱う情報： 社外に出せない情報を扱うか
• 求める品質： 幅広い知識や推論が要るか、対象を絞った作業か
• 動かす場所： 通信できる環境か、現場の機器の上か
• 費用と手間： 利用料で払うか、自社で機器と運用を用意するか

手元で動かす場合は、利用料は抑えられても、機器の準備、モデルの更新、セキュリティの対策を自社で担う必要があります。自社の環境でAIを動かす考え方はローカルLLM入門、使い方の選び方は生成AIの使い方の選び方（SaaS・API・自社環境）でまとめています。

試すときに、何を確かめればよいですか？

SLMを試すときは、次の点を確かめると、本番で困りにくくなります。

1. ライセンスと利用の条件： 商用で使えるか、どんな条件があるかを、提供元の公式の資料で確かめます。オープンに公開されたモデルでも、条件はモデルごとに異なります。考え方はオープンウェイトのモデルを企業で使うときの考え方をご覧ください
2. 自社のデータでの品質： 公開されている評価の結果だけで判断せず、自社の業務のデータで、求める品質に届くかを試します
3. 動作の条件： 動かすのに必要な機器の性能を確かめます
4. 運用の担い手： モデルの更新や不具合への対応を、誰が担うのかを決めておきます