以前理解的模型蒸馏就是模型“提纯”，这样说太宽泛了，应该说 蒸馏是“提纯”的一种手段而已。 知识蒸馏具体指：让小模型去学到大模型的知识。通俗的说，让student模型的输出接近(拟合)teacher模型的输出。知识蒸馏的重点在于拟合二字，即我们要定义一个方法去衡量student模型 ...

　　　　 　　动机： 　　目标：想要获得一个实时的模型，且尽可能的准确。 　　我们有一个大模型性能很好，但是很慢： 　　 　　我们有个小模型速度很快，但是性能很差： 　　 　　动机：面临的挑战 　　1、由于容量和能力，小模型很难达到一个很好的性能。 　　2、精确度和模型压缩之间 ...

深度神经网络模型压缩和加速方法 综合现有的深度模型压缩方法，它们主要分为四类： 1、参数修剪和共享（parameter pruning and sharing） 2、低秩因子分解（low-rank factorization） 3、转移/紧凑卷积滤波器（transferred ...

现状 知识蒸馏 核心思想 细节补充 　　知识蒸馏的思想最早是由Hinton大神在15年提出的一个黑科技，Hinton在一些报告中将该技术称之为Dark Knowledge，技术上一般叫做知识蒸馏（Knowledge Distillation），是模型加速中的一种 ...

通常我们训练出的模型都比较大，将这些模型部署到例如手机、机器人等移动设备上时比较困难。模型压缩（model compression）可以将大模型压缩成小模型，压缩后的小模型也能得到和大模型接近甚至更好的性能。这篇文章总结了几种常用的模型压缩方法：网络裁剪（network pruning）、知识蒸馏 ...

一、背景 深度学习让计算机视觉任务的性能到达了一个前所未有的高度。但，复杂模型的同时，带来了高额的存储空间、计算资源消耗，使其很难落实到各个硬件平台。 为了解决这些问题，压缩模型以最大限度地减小模型对于计算空间和时间的消耗。 二、理论基础 必要性：目前主流的网络 ...

模型压缩之蒸馏算法小结 原始文档：https://www.yuque.com/lart/gw5mta/scisva Google Slide: https://docs.google.com/presentation/d/e ...

结论：蒸馏是个好方法。 模型压缩/蒸馏在论文《Model Compression》及《Distilling the Knowledge in a Neural Network》提及，下面介绍后者及使用keras测试mnist数据集。 蒸馏：使用小模型模拟大模型的泛性。 通常，我们训练 ...