原文:论文笔记系列-Efficient Neural Architecture Search via Parameter Sharing

Summary 本文提出超越神经架构搜索 NAS 的高效神经架构搜索 ENAS ,这是一种经济的自动化模型设计方法,通过强制所有子模型共享权重从而提升了NAS的效率,克服了NAS算力成本巨大且耗时的缺陷,GPU运算时间缩短了 倍以上。在Penn Treebank数据集上,ENAS实现了 . 的测试困惑度 在CIFAR 数据集上,其测试误差达到了 . ,与NASNet不相上下 . 的测试误差 Res ...

2018-08-07 11:26 0 1156 推荐指数:

查看详情

论文笔记系列-Neural Architecture Search With Reinforcement Learning

摘要 神经网络在多个领域都取得了不错的成绩,但是神经网络的合理设计却是比较困难的。在本篇论文中,作者使用 递归网络去省城神经网络的模型描述,并且使用 增强学习训练RNN,以使得生成得到的模型在验证集上取得最大的准确率。 在 CIFAR-10数据集上,基于本文提出的方法生成的模型在测试集上得 ...

Sun Jul 22 03:11:00 CST 2018 0 1240
论文笔记——NEURAL ARCHITECTURE SEARCH WITH REINFORCEMENT LEARNING

论文地址:https://arxiv.org/abs/1611.01578 1. 论文思想 强化学习,用一个RNN学一个网络参数的序列,然后将其转换成网络,然后训练,得到一个反馈,这个反馈作用于RNN网络,用于生成新的序列。 2. 整体架构 3. RNN网络 4. 具体实现 ...

Mon Nov 20 04:31:00 CST 2017 0 1759
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM