『論文筆記』MoCo：Momentum Contrast for Unsupervised Visual Representation Learning
“ 我認為MoCo這篇最創新的地方，就是解決了一個非常重要但以前又沒有思路的工程問題，就是怎么節省內存節省時間搞到大量的negative sample。之前的memory bank雖然機 ...
原文：論文筆記系列-iCaRL： Incremental Classifier and Representation Learning
導言 傳統的神經網絡都是基於固定的數據集進行訓練學習的，一旦有新的，不同分布的數據進來，一般而言需要重新訓練整個網絡，這樣費時費力，而且在實際應用場景中也不適用，所以增量學習應運而生。 增量學習主要旨在解決災難性遺忘 Catastrophic forgetting 問題,本文將要介紹的 iCaRL： Incremental Classifier and Representation Learnin ...
2019-01-25 21:50 0 1252 推薦指數：
相關推薦
論文筆記-HRNet-Deep High-Resolution Representation Learning for Visual Recognition
paper: Deep High-Resolution Representation Learning for Visual Recognition code: HRNet Abstract HRNet，這里用的是PAMI2020的工作，整合了human pose ...
論文筆記系列-Neural Architecture Search With Reinforcement Learning
摘要 神經網絡在多個領域都取得了不錯的成績，但是神經網絡的合理設計卻是比較困難的。在本篇論文中，作者使用 遞歸網絡去省城神經網絡的模型描述，並且使用 增強學習訓練RNN，以使得生成得到的模型在驗證集上取得最大的准確率。 在 CIFAR-10數據集上，基於本文提出的方法生成的模型在測試集上得 ...
【論文筆記】A survey on federated learning（綜述）
A survey on federated learning Authors Chen Zhang, Yu Xie, Hang Bai, Bin Yu, Weihong Li, Yuan Gao Keywords ...
論文筆記-PolarMask: Single Shot Instance Segmentation with Polar Representation
paper: PolarMask: Single Shot Instance Segmentation with Polar Representation code: https://github.com/xieenze/PolarMask 作者知乎解答 PolarMask是CVPR2020 ...
論文筆記：Deep Residual Learning
之前提到，深度神經網絡在訓練中容易遇到梯度消失/爆炸的問題，這個問題產生的根源詳見之前的讀書筆記。在 Batch Normalization 中，我們將輸入數據由激活函數的收斂區調整到梯度較大的區域，在一定程度上緩解了這種問題。不過，當網絡的層數急劇增加時，BP 算法中導數的累乘效應還是很容易 ...
Convolutional Sequence to Sequence Learning 論文筆記
目錄 簡介 Position Embeddings GLU or GRU Convolutional Block Structure Multi-step At ...
論文筆記系列-AutoFPN
原論文：Auto-FPN: Automatic Network Architecture Adaptation for Object Detection Beyond Classification 之前的AutoML都是應用在圖像分類或者語言模型上，AutoFPN成功地將這技術應用到 ...