lstm與bilstm

 

背景

學習梳理lstm和bilstm的理論知識

什么是lstm，bilstm

1. lstm：是rnn的一種，針對有序的數據，有對數據信息長短記憶的功能
2. bilstm：是前向lstm和后項lstm的組合

為什么要lstm, bilstm

1. lstm:  其可以更好的捕獲較長距離的依賴關系，通過訓練過程可以學到記憶哪些信息和遺忘哪些信息; 舉個例子，“我不覺得他好”，“不”字是對“好”的否定，既該句子的情感分析為貶義。
2. bilstm: lstm建模存在一個問題，無法編碼從后向前的信息，而bilstm可以；舉個例子，“這個餐廳臟的不行，沒有隔壁好”，“不行”是修飾“臟”的程度的，只有bilstm模型才能更好的捕獲雙向語義。

lstm原理

 

詳細計算過程

 

 

 

 

 

 

 

 

 Bilstm原理