原文:『论文笔记』MoCo:Momentum Contrast for Unsupervised Visual Representation Learning

我认为MoCo这篇最创新的地方,就是解决了一个非常重要但以前又没有思路的工程问题,就是怎么节省内存节省时间搞到大量的negative sample。之前的memory bank虽然机智,但是必须存下来整个数据集,空间开销O N ,所以处理不了Instagram级别的数据,这个问题困扰我很久而且我没找到有效策略,我试过跟MoCo一样用一个queue,也是存过去m个batch的sample,这个其实 ...

2021-05-16 21:00 0 960 推荐指数:

查看详情

 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM