論文閱讀 | Adversarial Training for Large Neural Language Models
本文把對抗訓練用到了預訓練和微調兩個階段，對抗訓練的方法是針對embedding space，通過最大化對抗損失、最小化模型損失的方式進行對抗，在下游任務上取得了一致的效果提升。有趣的是， ...
原文：A Diversity-Promoting Objective Function for Neural Conversation Models論文閱讀
本文來自李紀為博士的論文A Diversity Promoting Objective Function for Neural Conversation Models ，概述 對於seq seq模型類的對話系統，無論輸入是什么，都傾向於生成安全，通用的回復 例如 i don t know 這一類的回復 ，因為這種響應更符合語法規則，在訓練集中出現頻率也較高，最終生成的概率也最大，而有意義的響應生成 ...
2019-02-27 23:46 0 784 推薦指數：
相關推薦
論文閱讀 | Target-Guided Open-Domain Conversation
論文地址 ：https://www.aclweb.org/anthology/P19-1565/ 作者 ： Jianheng Tang, Tiancheng Zhao, Chenyan Xiong, Xiaodan Liang, Eric Xing, Zhiting Hu 機構 ： 中山大學 ...
論文閱讀 | Trojaning Attack on Neural Networks
對神經網絡的木馬攻擊 Q: 1. 模型蒸餾可以做防御嗎？ 2. 強化學習可以幫助生成木馬觸發器嗎？ 3. 怎么挑選建立強連接的units？ 本文提出了一種針對神經元網絡的木馬攻擊 ...
《Learning Convolutional Neural Networks for Graphs》論文閱讀
首先，容我吐槽一下這篇論文的行文結構、圖文匹配程度、真把我搞得暈頭轉向，好些點全靠我猜測推理作者想干嘛，😈 背景 我們知道傳統的CNN針對的是image，是歐氏空間square grid，那么使用同樣square grid的卷積核就能對輸入的圖片進行特征的提取。在上一篇論文中，使用的理論 ...
《Diffusion-Convolutional Neural Networks》論文閱讀
DCNN 主要思想： 這是一篇基於空間域的圖神經網絡，聚合方式通過采樣（hop）1~k 階的鄰居並同 self 使用 mean 的方式得到新的 feature-vector 作者將不同的 ...
【論文閱讀】Sequence to Sequence Learning with Neural Network
Sequence to Sequence Learning with NN 《基於神經網絡的序列到序列學習》原文google scholar下載。 @author: Ilya Sutskever ...
Design Challenges and Misconceptions in Neural Sequence Labeling 論文閱讀
1，簡介 序列標注算是NLP中最基本的任務，主要有分詞，詞性標注，實體識別三類任務。分詞通常是中文任務的模型最基本的組件，詞性標注通常也是用來輔助其他的任務，用於提升任務的性能，而實體識別算是可 ...
論文閱讀-(CVPR 2017) Kernel Pooling for Convolutional Neural Networks
在這篇論文中，作者提出了一種更加通用的池化框架，以核函數的形式捕捉特征之間的高階信息。同時也證明了使用無參數化的緊致清晰特征映射，以指定階形式逼近核函數，例如高斯核函數。本文提出的核函數池化可以和CNN網絡聯合優化。 Network Structure Overview Kernel ...