论文笔记(Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration)


这是CVPR 2019的一篇oral。

预备知识点:Geometric median 几何中位数

\begin{equation}
\underset{y \in \mathbb{R}^{n}}{\arg \min } \sum_{i=1}^{m}\left\|x_{i}-y\right\|
\end{equation}

可以理解为距离给定点集欧式距离之和最近的点。这篇博客中有关于几何中位数的介绍:https://www.cnblogs.com/ybiln/p/4175695.html。

 

文中指出之前的剪枝算法应用的前提条件有两个:

1、权重间隔要大

2、最小值应该更靠近0

(PS: 这个地方文中还画出了图表分析数据的分布情况,但是数据的来源是没有经过稀疏化处理的权重数据,我觉得没有那么具有代表性)

 

文中最关键的点是利用了中位数这个概念,应该剪去的是中位数,作者知道中位数的数学表达形式,这是一个很关键的预备知识。

后面作者在求取中位数卷积核的一系列近似,得到了数学上能够讲得通的结果。有点诡辩的意思,有的地方不是很严谨。


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM