原文:虚拟对抗训练(VAT):一种用于监督学习和半监督学习的正则化方法

正则化 虚拟对抗训练是一种正则化方法,正则化在深度学习中是防止过拟合的一种方法。通常训练样本是有限的,而对于深度学习来说,搭设的深度网络是可以最大限度地拟合训练样本的分布的,从而导致模型与训练样本分布过分接近,还把训练样本中的一些噪声也拟合进去了,甚至于最极端的,训练出来的模型只能判断训练样本,而测试样本变成了随机判断。所以为了让模型泛化地更好,正则化是很有必要的。 最常见的正则化是直接对模型的参 ...

2019-12-25 15:59 0 1894 推荐指数:

查看详情

监督学习

监督学习:全部使用含有标签的数据来训练分类器。 无监督学习:具有数据集但无标签(即聚类)。 半监督学习:使用大量含有标签的数据和少量不含标签的数据进行训练分类或者聚类。 半监督学习:纯半监督学习和直推式学习 纯半监督学习和直推式学习的区别: 半监督学习学习使并不知道最终 ...

Wed Feb 28 07:06:00 CST 2018 0 1151
监督学习

转自:https://zhuanlan.zhihu.com/p/108906502 1. 什么是自监督学习? 自监督学习主要是利用辅助任务(pretext)从大规模的无监督数据中挖掘自身的监督信息,通过这种构造的监督信息对网络进行训练,从而可以学习到对下游任务有价值的表征。 2.如何评测 ...

Wed Nov 18 03:54:00 CST 2020 0 1378
监督学习

1 监督学习   利用一组带标签的数据, 学习从输入到输出的映射, 然后将这种映射关系应用到未知数据, 达到分类或者回归的目的   (1) 分类: 当输出是离散的, 学习任务为分类任务          输入: 一组有标签的训练数据(也叫观察和评估), 标签表明了这些数据(观察)的所属类别 ...

Fri May 26 19:27:00 CST 2017 0 3240
监督学习

。受益匪浅。。 1. 引言 在传统的监督学习中,学习器通过对大量有标记的(labeled)训练 ...

Fri May 11 23:15:00 CST 2012 4 31341
监督学习

。若直接丢弃掉无标记样本集,使用传统的监督学习方法,常常会由于训练样本的不充足,使得其刻画总体分布的能 ...

Wed Jan 16 20:07:00 CST 2019 0 929
监督学习

监督机器学习问题主要有两,分别叫作分类(classification)与回归(regression)。 分类问题的目标是预测类别标签(class label),这些标签来自预定义的可选列表。在二分类问题中,我们通常将其中一个类别称为正类(positive class),另一个类别称为反 类 ...

Sat Apr 18 03:02:00 CST 2020 0 754
监督学习

一、半监督学习 1-1、什么是半监督学习学习器不依赖外界交互、自动地利用未标记样本来提升学习性能,就是半监督学习(semi-supervised learning)。 要利用未标记样本,必然要做一些将未标记样本所揭示的数据分布信息与类别标记相联系的假设。假设的本质是“相似的样本拥有相似 ...

Fri Sep 21 17:21:00 CST 2018 0 18283
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM