标签: 自监督 图神经 动机 首先, 由于很难改变 GCNs 固有的浅层结构, 如何设计一种基于 GCNs 的一致高效的训练算法来提高其在标签节点较少的图上的泛化性能 其次, 如何利用基于大量未标记数据的自监督学习方法的优势, 来提高所提出的训练算法的性能 贡献 我们首先探讨了在标签节点较少的图上 GCNs 的层效应的存在性, 揭示了 GCNs 需要更多的层来维持标签率较低的性能 结合多阶段训练框 ...
2021-12-13 22:41 1 83 推荐指数：
自监督学习 自监督学习(Self-Supervised Learning)是一种介于无监督和监督学习之间的一种新范式，旨在减少深度网络对大量注释数据的需求。大量的人工标注的样本是费时耗力的。 它通过定义无注释(annotation-free)的前置任务(pretext task)，为特征学习 ...
Contrastive Self-Supervised Learning 2020-01-30 10:32:24 Source: https://ankeshanand.com/blog/2020/01/26 ...
1、定义： 自监督学习主要是利用辅助任务（pretext）从大规模的无监督数据中挖掘自身的监督信息，通过这种构造的监督信息对网络进行训练，从而可以学习到对下游任务有价值的表征。（也就是说自监督学习的监督信息不是人工标注的，而是算法在大规模无监督数据中自动构造监督信息，来进行监督学习或训练 ...
自监督学习(Self-Supervised Learning)多篇论文解读（上） 前言 Supervised deep learning由于需要大量标注信息，同时之前大量的研究已经解决了许多问题。所以近期大家的研究关注点逐渐转向了Unsupervised learning，许多顶 ...
自监督学习(Self-Supervised Learning)多篇论文解读（下） 之前的研究思路主要是设计各种各样的pretext任务，比如patch相对位置预测、旋转预测、灰度图片上色、视频帧排序等等。CVPR19和ICCV19上，Google Brain的几个研究员发表了两篇论文 ...
Self-Supervised Learning with Swin Transformers 2021-05-11 20:32:02 Paper: https://arxiv.org/pdf/2105.04553.pdf Code: https://github.com ...
首先，容我吐槽一下这篇论文的行文结构、图文匹配程度、真把我搞得晕头转向，好些点全靠我猜测推理作者想干嘛，😈 背景 我们知道传统的CNN针对的是image，是欧氏空间square grid，那么使 ...
Kipf, Thomas N., and Max Welling. "Semi-supervised classification with graph convolutional networks." arXiv preprint arXiv:1609.02907 (2016 ...
