小さな言語モデル（SLM）とは｜通信のない現場で使うAIの選び方
この記事では、令和8年版情報通信白書が「最近の研究開発・社会実装動向」として取り上げた小規模言語モデル（SLM）を、中小企業の社長向けにかみくだいて説明します。一言でいうと、SLMは、大きなAIより小さく、パソコンなどの端末や社内の機器で動かしやすく、通信なしで使えるAIのこと。外に出せない情報や通信のない現場で役に立つ一方、知識の範囲や複雑な考えには限りがある。社内の資料を参照させたり、大きなAIと使い分けたりして、どの業務で使うかを社長が決めるという話です。
多くの中小企業にとって、今すぐSLMを自社で動かす必要はありません。この記事は、話題になったときに判断を誤らないための整理です。
経営への効果は、AIを使えなかった場面に選択肢が増えること
今のAIの多くは、インターネットの向こうにある大きなAIに、文章を送って答えを受け取る形で使います。会社で契約した法人向けのプランなら、入力が学習に使われない設定も選べます。
それでも、通信がつながらない現場や、どうしても外に出したくない情報を扱う業務では、使いにくい場面が残ります。SLMは、そうした場面でAIを使う選択肢を増やすものです。選択肢が増えれば、これまでAIをあきらめていた業務も、検討の対象になります。
白書は、SLMを端末で動き、通信のいらないAIとして紹介した
白書によると、SLMは一般に、大規模言語モデル（LLM）と比べて規模（パラメータ数）が小さいモデルとされています。どこまでを小さいと呼ぶかは統一されておらず、白書ではおおよそ百億程度までのモデルを扱っています。
白書が挙げた特徴は次のとおりです。
- カスタマイズしやすい。 特定の分野に絞って学ばせることで、軽く、その分野に強いモデルも作られている
- 計算の量が少なく、端末で動かしやすい。 計算資源や電力に限りがある環境や、パソコンなどの端末での実行に向いている
- 通信がいらない。 端末で動かせば通信が要らないので、個人情報などのプライバシーやセキュリティの面で期待が集まっている
IBMの解説でも、SLMは必要なメモリーと計算能力が少なく、データ通信なしでオフラインで動かす必要がある場合に向くとされ、社内の機器などに置けるためデータ保護を強めやすいと説明されています。2026年10月時点の情報です。
ただし、知識の範囲と複雑な考えには限りがある
白書は、SLMは規模が小さいぶん、知識のカバー範囲や複雑な推論の力には限りがあるとしています。幅広い知識や高度な考えが要る用途では、SLMだけでの対応には限界があるとも書いています。
そのため白書は、実務では次のような組み合わせが有効とされていると整理しています。
- 社内の資料を参照させる。 検索拡張生成（RAG）と呼ばれる仕組みで、AIが答える前に社内の資料を探して使う
- 大きなAIと組み合わせる。 SLMと大きなAIを、仕事の中身で使い分ける
IBMの解説でも、SLMは幅広い知識が要る複雑な仕事は不得手で、事実と違うことを書くことがあるため、結果を確かめることが欠かせないとされています。また、基本的な依頼は小さなモデル、複雑な依頼は大きなモデルに振り分ける構成が紹介されています。
白書には、通信のない現場や特定の業界での活用が挙がっている
白書の「社会実装等の動向」では、すでに実用化されている例として、パソコンやスマートフォンの端末上のAI機能や、端末のAIとクラウドのAIを使い分ける仕組みが挙げられています。企業の活用では、通信がない環境での作業の効率化や、特定の領域に特化したAIの実装が始まっているとされています。
地域の例として、神戸市のスタジアムで、監視カメラの近くの機器とエッジサーバーでAIを動かし、立ち入った人物のリスクを判断して警備員に知らせる仕組みの実証も紹介されています。白書によると、クラウドのAIと比べて通信の混み具合に左右されにくく、省電力・省コストである点に期待が集まっているとされています。
大きなAIと小さなAIは、得意なことが違う
白書とIBMの解説をもとに、2つを比べると次のようになります。
| 比べる点 | 大きなAI（クラウド） | 小さなAI（SLM） |
|---|---|---|
| 動かす場所 | インターネットの向こう | 端末や社内の機器でも動かしやすい |
| 通信 | 要る | 端末で動かせば要らない |
| 知識の広さ・複雑な考え | 得意 | 限りがある |
| 用意と手入れ | サービスの会社が行う | 自社や委託先で行うことがある |
どちらが上というより、仕事によって向き不向きがあると考えます。
中小企業が検討するなら、まず使う場面を絞る
SLMを検討する前に、今のAIで足りるかを確かめます。多くの事務の仕事は、会社で契約した法人向けのプランで十分なことがあります。そのうえで、次のような場面があれば、SLMを含めた選択肢を考える価値があります。
| 場面（想定） | SLMを考える理由 |
|---|---|
| 電波の届きにくい現場で、点検の記録を整えたい | 通信なしで動かせる |
| 取引先との約束で、情報を社外のサービスに出せない | 社内の機器で動かせる |
| 決まった形の文書の仕分けを、大量に速く処理したい | 軽く、応答が速い |
一方、幅広い知識が要る相談や、複雑な文書の作成は、大きなAIのほうが向いています。料金の安い軽いモデルと、性能の高いモデルを使い分ける考え方は、AIモデルの使い分けで利用料を抑える｜仕分けは料金20分の1の軽いAIでで説明しています。
SLMの話を聞いたら、言葉の定義を確かめる
白書のとおり、どこまでを「小さい」と呼ぶかは統一されていません。白書が引く例でも、70億以下を小さいとする研究論文や、140億以下を小さいとして扱う学会の論文があり、説明する人によって幅があります。営業の説明で「小型のAI」と言われたときは、何がどのくらい小さいのか、どこで動くのかを具体的に聞きます。
自社で動かすには、作る人と確かめる仕組みが要る
SLMを社内の機器で動かす場合、クラウドのAIと違って、用意と手入れを自社か委託先で行うことになります。
- 動かす機器と、作る人が要る。 社内に詳しい人がいなければ、仕組みを作る会社に頼みます
- 社内の資料を参照させる仕組みも作る。 知識の限りを補うために、資料を探して使わせる仕組みを組みます
- 結果を確かめる手順を決める。 白書とIBMの解説のとおり、知識や推論には限りがあり、事実と違うことを書くことがあります
仕組みを作る会社に相談するときは、4つを聞く
SLMを含めた仕組みを外に頼むときは、次の点を聞いておきます。
- どの業務の、どの作業に使うのか。 小さなAIに任せる作業と、人や大きなAIに回す作業の線を聞きます
- 社内の資料をどう参照させるのか。 資料の入れ替えをだれが行うかも聞きます
- 結果をどう確かめるのか。 間違いを見つける手順と、見つけたときの直し方を聞きます
- 機器と手入れの費用はいくらか。 作る費用だけでなく、毎月の手入れの費用も聞きます
型をスキルにし、使い分けはAIの外で決める
型を Skills にまとめる。 Skills（スキル）は、AIに渡す手順書・見本・道具を1つにまとめたものです。頼まれた内容に合うときにAIが自動で読み込むので、毎回同じ説明をしなくても、AIの働きが安定します。小さなAIでも大きなAIでも、業務の手順と見本を決まった形にしておくことで、働きが安定します。
使い分けは、AIの外で決める。 AIそのもの以外の、指示・道具・点検の仕組みを設計することを、ハーネスエンジニアリングと呼ぶことがあります。どの仕事を小さなAIに、どの仕事を大きなAIに回すか、結果をだれが確かめるかを、仕組みの側で決めておくことです。白書のいう「端末のAIとクラウドのAIを使い分ける仕組み」も、この考え方に近いものです。
費用は、まず今のAIで足りるかを確かめてから
最初の検討は、会社で契約した法人向けのプランのチャットで足ります。費用は1人あたり月数千円です。SLMを社内で動かす仕組みを作る場合は、機器と作る費用がかかるので、仕組みを作る会社に見積もりを取り、効果の見込みと比べて決めます。
明日からは、AIを使えずにいる業務を書き出す
- 「通信がない」「情報を外に出せない」という理由で、AIを使えずにいる業務を書き出す
- その業務が、会社で契約した法人向けのプランの設定で解決できないかを確かめる
- それでも残る業務があれば、SLMを含めた選択肢を、仕組みを作る会社に相談する
まとめ
- 令和8年版情報通信白書は、小規模言語モデル（SLM）を、端末で動かしやすく通信のいらないAIとして紹介した
- SLMはプライバシーやセキュリティの面で期待される一方、知識の範囲と複雑な推論には限りがある
- 実務では、社内の資料を参照させる仕組みや、大きなAIとの組み合わせが有効とされる
- 中小企業は、まず今のAIで足りるかを確かめ、通信のない現場や外に出せない情報など、使う場面を絞って検討する
- 小さなAIと大きなAIの使い分けと、結果の確かめ方は、AIの外で決める
