圖神經網絡用於方面級情感分類的論文研讀心得

最近研讀了三篇圖神經網絡用於方面級情感分類的論文，其中兩篇老師給的，一篇是之前自己找的：

• 1、Aspect-based Sentiment Classification with Aspect-specific Graph Convolutional Networ（EMNLP2019）
• 2、Modeling Sentiment Dependencies with Graph Convolutional Networks for Aspect-level（2019）
• 3、Targeted Sentiment Classification Based on Attentional（2020）

這三篇頂會論文討論的都是一個問題，就是將圖神經網絡應用於方面級情感分析，論文介紹的圖神經網絡應用於方面級情感分析相關工作和問題都是大同小異的：

• 方面級情感分類相關工作：
  • 1、結合了LSTM和注意力機制的ATAE-LSTM。該模型將方面嵌入參與計算注意力權重計算；
    （Wang, Y.; Huang, M.; Zhao, L.; Zhu, X. Attention-based lstm for aspect-level sentiment classification.
    In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, Austin, TX,
    USA, 1–5 November 2016; pp. 606–615.）
  • 2、RAM：在雙向LSTM上采用了多頭注意機制。
    （Chen, P.; Sun, Z.; Bing, L.; Yang, W. Recurrent attention network on memory for aspect sentiment analysis.
    In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, Copenhagen,
    Denmark, 7–11 September 2017; pp. 452–461.）
  • 3、有雙向注意機制的模型，該模型分別交互地學習上下文和方面詞的注意權重。
    （Ma, D.; Li, S.; Zhang, X.; Wang, H. Interactive attention networks for aspect-level sentiment classification.
    arXiv 2017, arXiv:1709.00893.）
• 存在的問題：
  • 1、這些研究沒有考慮句法信息並忽略了詞之間的句法相互依賴關系，這可能在識別特定目標的情感極性時導致歧義。
  • 2、這些工作用一個句子分別為每個方面建模，這可能會丟失方面之間的某些情感依賴信息。
• 圖卷積神經網絡在NLP相關工作：
  • 語義角色標簽，機器翻譯和關系分類。 一些工作探索圖神經網絡進行文本分類，他們將文檔，句子或單詞視為圖節點，並依靠節點之間的關系來構建圖。
    （Liang Yao, Chengsheng Mao, and Yuan Luo. 2018.Graph convolutional networks for text classification.arXiv preprint arXiv:1809.05679.）

這個三篇論文都是就上述的問題進行研究，在我看了三篇論文的代碼后發現，第2篇論文和第3篇論文與我之前研讀的第1篇論文的代碼神似，尤其是第三篇的代碼就是以第一篇論文的代碼為基礎寫的，不過由於代碼運行過程中出現的一些問題，第二篇和第三篇論文代碼沒能復現，但是我先前的第一篇論文的代碼是成功復現了的，所以可以先用來幫助理解相關基礎方法的實現。