模型搞到这时候，就是要以不断提升泛化力和鲁棒性，当今两个主流的方法是 知识蒸馏 对抗学习 本节主要说对抗训练，它是一种能够有效提高模型鲁棒性和泛化能力的训练手段，基本原理：在原始输入上增加对抗扰动，得到对抗样本，再利用对抗样本进行训练，从而提高模型表现。 在自然语言处理中，这个任务处理的就是离散数据，所以一般会把对抗扰动添加到嵌入层中，为了最大化对抗样本的扰动能力，使用梯度上升方式生成对抗样本。 ...
2020-03-03 17:17 0 903 推荐指数：
Virtual Adversarial Training: a Regularization Method for Supervised and Semi-supervised Learning 简介 本文是17年半监督学习的一篇文章，受对抗训练的启发，将对抗训练的范式用于提升半监督学习 ...
通过对抗训练实现半监督的异常检测 Abstract 异常检测在计算机视觉中是一个经典的问题，即从异常中确定正常，但是由于其他类（即异常类）的样本数量不足，所以数据集主要基于一个类（即正常类）。虽然该问题能够当成一个监督学习 ...
Kipf, Thomas N., and Max Welling. "Semi-supervised classification with graph convolutional networks." arXiv preprint arXiv:1609.02907 (2016 ...
GCN的定义 下面内容参考kipf博客，个人认为是告诉你从直觉上，我们怎么得到GCN图上的定义（而前面的大幅推导是从理论上一步一步来的，也就是说可以用来佐证我们的直觉） 我们的网络输入是\(\ma ...
背景简介 GCN的提出是为了处理非结构化数据（相对于image像素点而言）。CNN处理规则矩形的网格像素点已经十分成熟，其最大的特点就是利用卷积进行①参数共享②局部连接，如下图： 那么类比 ...
Semi-supervised Classification with Graph Convolutional Networks 2018-01-16 22:33:36 1. 文章主要思想： 2. 代码实现（Pytorch）：https://github.com ...
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS Thomas N. Kipf、MaxWelling Published as a conference paper at ICLR 2017 论文 ...
Semi-Supervised Learning with Generative Adversarial Networks 引言：本文将产生式对抗网络（GAN）拓展到半监督学习，通过强制判别器来输出类别标签。我们在一个数据集上训练一个产生式模型 G 以及 一个判别器 D，输入 ...
