原文:自监督学习Self-supervised Learning入门简知

定义: 自监督学习主要是利用辅助任务 pretext 从大规模的无监督数据中挖掘自身的监督信息,通过这种构造的监督信息对网络进行训练,从而可以学习到对下游任务有价值的表征。 也就是说自监督学习的监督信息不是人工标注的,而是算法在大规模无监督数据中自动构造监督信息,来进行监督学习或训练。因此,大多数时候,我们称之为无监督预训练方法或无监督学习方法,严格上讲,他应该叫自监督学习 挑战: 对于自监督学 ...

2021-01-05 16:43 0 510 推荐指数:

查看详情

监督学习(Self-Supervised Learning)多篇论文解读(上)

监督学习(Self-Supervised Learning)多篇论文解读(上) 前言 Supervised deep learning由于需要大量标注信息,同时之前大量的研究已经解决了许多问题。所以近期大家的研究关注点逐渐转向了Unsupervised learning,许多顶 ...

Sat May 30 14:23:00 CST 2020 0 2117
监督学习(Self-Supervised Learning)多篇论文解读(下)

监督学习(Self-Supervised Learning)多篇论文解读(下) 之前的研究思路主要是设计各种各样的pretext任务,比如patch相对位置预测、旋转预测、灰度图片上色、视频帧排序等等。CVPR19和ICCV19上,Google Brain的几个研究员发表了两篇论文 ...

Sat May 30 14:42:00 CST 2020 0 1476
如何区分监督学习(supervised learning)和非监督学习(unsupervised learning)

监督学习:简单来说就是给定一定的训练样本(这里一定要注意,样本是既有数据,也有数据对应的结果),利用这个样本进行训练得到一个模型(可以说是一个函数),然后利用这个模型,将所有的输入映射为相应的输出,之后对输出进行简单的判断从而达到了分类(或者说回归)的问题。简单做一个区分,分类就是离散的数据,回归 ...

Tue Dec 13 05:08:00 CST 2016 0 2790
如何区分监督学习(supervised learning)和非监督学习(unsupervised learning)

机器学习的常用方法中,我们知道一般分为监督学习和非监督学习。 l 监督学习监督学习,简单来说就是给定一定的训练样本(这里一定要注意,这个样本是既有数据,也有数据相对应的结果),利用这个样本进行训练得到一个模型(可以说就是一个函数),然后利用这个模型,将所有的输入映射为相应的输出,之后对输出 ...

Sat Apr 16 18:08:00 CST 2022 0 955
监督学习(semi-supervised learning)综述

一些参考资料: [1] 李宏毅机器学习教学视频 semi-supervise [2] 李宏毅视频的文字稿 (上面两个资料的讲解顺序是:semi-supervised generative model --> low density assumption --> ...

Thu Jun 24 00:29:00 CST 2021 0 458
监督学习 Semi-Supervised-Learning

SSL按照统计学习理论的角度包括直推(Transductive)SSL和归纳(Inductive)SSL两类模式。直推SSL只处理样本空间内给定的训练数据,利用训练数据中有类标签的样本和无类标签的样例进行训练,预测训练数据中无类标签的样例的类标签;归纳SSL处理整个样本空间中所有给定和未知的样例 ...

Thu Nov 23 01:14:00 CST 2017 0 1386
SSL0-半监督学习方法(Semi-supervised Learning)的分类

根据模型的训练策略划分: 直推式学习(Transductive Semi-supervised Learning) 无标记数据就是最终要用来测试的数据,学习的目的就是在这些数据上取得最佳泛化能力。 归纳式学习(Inductive ...

Tue Mar 09 03:12:00 CST 2021 0 628
 
粤ICP备18138465号  © 2018-2026 CODEPRJ.COM