原文:对比学习《Self-supervised Learning for Large-scale Item Recommendations》

背景 在推荐系统中存在用户行为稀疏的问题,特别是在召回阶段,用户有过交互的item只占非常少的一部分,只有这部分数据我们能用来训练,但是serving时要serving全库item,这可能会导致倾向热门的item,特别是对冷启动非常不友好。这篇论文引入来在CV NLU中取得成功的对比学习方法,通过一个辅助任务来帮助主任务模型和底层embedding得到更充分的训练。 模型结构 模型结构如上图所示, ...

2022-02-22 11:57 2 658 推荐指数:

查看详情

Contrastive Self-Supervised Learning

Contrastive Self-Supervised Learning 2020-01-30 10:32:24 Source: https://ankeshanand.com/blog/2020/01/26 ...

Thu Jan 30 18:33:00 CST 2020 0 868
自监督学习Self-supervised Learning入门简知

1、定义: 自监督学习主要是利用辅助任务(pretext)从大规模的无监督数据中挖掘自身的监督信息,通过这种构造的监督信息对网络进行训练,从而可以学习到对下游任务有价值的表征。(也就是说自监督学习的监督信息不是人工标注的,而是算法在大规模无监督数据中自动构造监督信息,来进行监督学习或训练 ...

Wed Jan 06 00:43:00 CST 2021 0 510
自监督学习(Self-Supervised Learning)多篇论文解读(上)

自监督学习(Self-Supervised Learning)多篇论文解读(上) 前言 Supervised deep learning由于需要大量标注信息,同时之前大量的研究已经解决了许多问题。所以近期大家的研究关注点逐渐转向了Unsupervised learning,许多顶 ...

Sat May 30 14:23:00 CST 2020 0 2117
自监督学习(Self-Supervised Learning)多篇论文解读(下)

自监督学习(Self-Supervised Learning)多篇论文解读(下) 之前的研究思路主要是设计各种各样的pretext任务,比如patch相对位置预测、旋转预测、灰度图片上色、视频帧排序等等。CVPR19和ICCV19上,Google Brain的几个研究员发表了两篇论文 ...

Sat May 30 14:42:00 CST 2020 0 1476
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM