---
title: "蒸留とは｜AI-Ready.jp"
url: https://www.ai-ready.jp/glossary/distillation/
description: "蒸留とは、大きなモデルの出力を手本にして、小さなモデルに同じような働きを学ばせる手法のことです。蒸留は、性能の高い大きなモデル（教師）の出力を手本として、小さなモデル（生徒）を学習させる手法です。2015年のヒントン"
publisher: "フロレンティナ株式会社"
---
[生成AI・LLM](https://www.ai-ready.jp/glossary/#genai)

# 蒸留

じょうりゅう／ Knowledge Distillation

定義

蒸留とは、大きなモデルの出力を手本にして、小さなモデルに同じような働きを学ばせる手法のことです。

蒸留は、性能の高い大きなモデル（教師）の出力を手本として、小さなモデル（生徒）を学習させる手法です。2015年のヒントンらの論文で、複数のモデルの知識を一つの使いやすいモデルにまとめる方法として示されました。小さなモデルは計算の費用が少なく、応答も速くなりやすいため、端末の側で動かすエッジAIや、利用量の多い業務での活用が考えられます。一方で、生徒のモデルが教師と同じ精度になるとは限りません。また、外部のサービスのモデルの出力を学習に使う場合は、そのサービスの利用規約で認められているかを事前に確かめておくことが大切です。

蒸留の考え方

大きなモデル（教師）の出力

手本にして学習

小さなモデル（生徒）

生徒は計算の費用が少なく応答も速くなりやすい一方、教師と同じ精度になるとは限りません。外部のサービスのモデルの出力を学習に使う場合は、利用規約で認められているかを事前に確かめておくことが大切です。

確かめた出典：[https://arxiv.org/abs/1503.02531](https://arxiv.org/abs/1503.02531)

自社のAI活用の準備度は？[7つの柱で、10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/)

## 関連する用語

- [SLM（小規模言語モデル）](https://www.ai-ready.jp/glossary/slm/)
- [量子化](https://www.ai-ready.jp/glossary/quantization/)
- [エッジAI](https://www.ai-ready.jp/glossary/edge-ai/)
- [モデル](https://www.ai-ready.jp/glossary/model/)

## この用語が出てくる記事

- [RAGとファインチューニングの違いと選び方「知識を補う」か「振る舞いを整える」か](https://www.ai-ready.jp/column/rag-vs-fine-tuning/)コラム

最終更新 2026-11-13

## 次の一歩

[測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/)

---

出典：フロレンティナ株式会社「蒸留とは｜AI-Ready.jp」 https://www.ai-ready.jp/glossary/distillation/