『论文笔记』MoCo：Momentum Contrast for Unsupervised Visual Representation Learning
“ 我认为MoCo这篇最创新的地方，就是解决了一个非常重要但以前又没有思路的工程问题，就是怎么节省内存节省时间搞到大量的negative sample。之前的memory bank虽然机 ...
原文：论文笔记系列-iCaRL： Incremental Classifier and Representation Learning
导言 传统的神经网络都是基于固定的数据集进行训练学习的，一旦有新的，不同分布的数据进来，一般而言需要重新训练整个网络，这样费时费力，而且在实际应用场景中也不适用，所以增量学习应运而生。 增量学习主要旨在解决灾难性遗忘 Catastrophic forgetting 问题,本文将要介绍的 iCaRL： Incremental Classifier and Representation Learnin ...
2019-01-25 21:50 0 1252 推荐指数：
相关推荐
论文笔记-HRNet-Deep High-Resolution Representation Learning for Visual Recognition
paper: Deep High-Resolution Representation Learning for Visual Recognition code: HRNet Abstract HRNet，这里用的是PAMI2020的工作，整合了human pose ...
论文笔记系列-Neural Architecture Search With Reinforcement Learning
摘要 神经网络在多个领域都取得了不错的成绩，但是神经网络的合理设计却是比较困难的。在本篇论文中，作者使用 递归网络去省城神经网络的模型描述，并且使用 增强学习训练RNN，以使得生成得到的模型在验证集上取得最大的准确率。 在 CIFAR-10数据集上，基于本文提出的方法生成的模型在测试集上得 ...
【论文笔记】A survey on federated learning（综述）
A survey on federated learning Authors Chen Zhang, Yu Xie, Hang Bai, Bin Yu, Weihong Li, Yuan Gao Keywords ...
论文笔记-PolarMask: Single Shot Instance Segmentation with Polar Representation
paper: PolarMask: Single Shot Instance Segmentation with Polar Representation code: https://github.com/xieenze/PolarMask 作者知乎解答 PolarMask是CVPR2020 ...
论文笔记：Deep Residual Learning
之前提到，深度神经网络在训练中容易遇到梯度消失/爆炸的问题，这个问题产生的根源详见之前的读书笔记。在 Batch Normalization 中，我们将输入数据由激活函数的收敛区调整到梯度较大的区域，在一定程度上缓解了这种问题。不过，当网络的层数急剧增加时，BP 算法中导数的累乘效应还是很容易 ...
Convolutional Sequence to Sequence Learning 论文笔记
目录 简介 Position Embeddings GLU or GRU Convolutional Block Structure Multi-step At ...
论文笔记系列-AutoFPN
原论文：Auto-FPN: Automatic Network Architecture Adaptation for Object Detection Beyond Classification 之前的AutoML都是应用在图像分类或者语言模型上，AutoFPN成功地将这技术应用到 ...