原文:LQ-Nets: Learned Quantization for Highly Accurate and Compact Deep Neural Networks 論文閱讀

摘要 雖然權重和激活量化是深度神經網絡 DNN 壓縮的有效方法,並且具有很多利用bit操作來提高推理速度的潛力,但在量化模型和完整模型之間的預測精度方面仍存在明顯差距。為了解決這個差距,我們建議聯合訓練量化的,位操作兼容的DNN及其相關的量化器,而不是使用固定的手工量化方案,例如均勻或對數量化。我們學習量化器的方法適用於任意位精度的網絡權重和激活,我們的量化器很容易訓練。對CIFAR 和Imag ...

2019-03-27 12:19 0 559 推薦指數:

查看詳情

論文閱讀 | Trojaning Attack on Neural Networks

對神經網絡的木馬攻擊 Q: 1. 模型蒸餾可以做防御嗎? 2. 強化學習可以幫助生成木馬觸發器嗎? 3. 怎么挑選建立強連接的units? 本文提出了一種針對神經元網絡的木馬攻擊 ...

Wed Aug 14 01:44:00 CST 2019 0 776
《Learning Convolutional Neural Networks for Graphs》論文閱讀

首先,容我吐槽一下這篇論文的行文結構、圖文匹配程度、真把我搞得暈頭轉向,好些點全靠我猜測推理作者想干嘛,😈 背景 我們知道傳統的CNN針對的是image,是歐氏空間square grid,那么使用同樣square grid的卷積核就能對輸入的圖片進行特征的提取。在上一篇論文中,使用的理論 ...

Mon Apr 20 09:28:00 CST 2020 0 1532
《Diffusion-Convolutional Neural Networks論文閱讀

DCNN 主要思想: 這是一篇基於空間域的圖神經網絡,聚合方式通過采樣(hop)1~k 階的鄰居並同 self 使用 mean 的方式得到新的 feature-vector 作者將不同的 ...

Sat Jun 20 07:12:00 CST 2020 0 1023
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM