原文:論文筆記系列-Efficient Neural Architecture Search via Parameter Sharing

Summary 本文提出超越神經架構搜索 NAS 的高效神經架構搜索 ENAS ,這是一種經濟的自動化模型設計方法,通過強制所有子模型共享權重從而提升了NAS的效率,克服了NAS算力成本巨大且耗時的缺陷,GPU運算時間縮短了 倍以上。在Penn Treebank數據集上,ENAS實現了 . 的測試困惑度 在CIFAR 數據集上,其測試誤差達到了 . ,與NASNet不相上下 . 的測試誤差 Res ...

2018-08-07 11:26 0 1156 推薦指數:

查看詳情

論文筆記系列-Neural Architecture Search With Reinforcement Learning

摘要 神經網絡在多個領域都取得了不錯的成績,但是神經網絡的合理設計卻是比較困難的。在本篇論文中,作者使用 遞歸網絡去省城神經網絡的模型描述,並且使用 增強學習訓練RNN,以使得生成得到的模型在驗證集上取得最大的准確率。 在 CIFAR-10數據集上,基於本文提出的方法生成的模型在測試集上得 ...

Sun Jul 22 03:11:00 CST 2018 0 1240
論文筆記——NEURAL ARCHITECTURE SEARCH WITH REINFORCEMENT LEARNING

論文地址:https://arxiv.org/abs/1611.01578 1. 論文思想 強化學習,用一個RNN學一個網絡參數的序列,然后將其轉換成網絡,然后訓練,得到一個反饋,這個反饋作用於RNN網絡,用於生成新的序列。 2. 整體架構 3. RNN網絡 4. 具體實現 ...

Mon Nov 20 04:31:00 CST 2017 0 1759
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM