一、背景
在大多數非搜索電商場景下，用戶並不會實時表達目前的興趣偏好。因此通過設計模型來捕獲用戶的動態變化的興趣，是提升CTR預估效果的關鍵。阿里之前的DIN模型將用戶的歷史行為來表示用戶的興趣，並強調了用戶興趣的多樣性和動態變化性，因此通過attention-based model來捕獲和目標物品相關的興趣。雖然DIN模型將用戶的歷史行為來表示興趣，
DIN存在兩個缺點：
1）用戶的興趣是不斷進化的，而DIN抽取的用戶興趣之間是獨立無關聯的，沒有捕獲到興趣的動態進化性
2）通過用戶的顯式的行為來表達用戶隱含的興趣，這一准確性無法得到保證。
基於以上兩點，阿里提出了深度興趣演化網絡DIEN來CTR預估的性能。
DIEN模型的主要貢獻點在於：
1）模型關注電商系統中興趣演化的過程，並提出了新的網絡結果來建模興趣進化的過程，這個模型能夠更精確的表達用戶興趣，同時帶來更高的CTR預估准確率。
2）設計了興趣抽取層，並通過計算一個輔助loss，來提升興趣表達的准確性。
3）設計了興趣進化層，來更加准確的表達用戶興趣的動態變化性。
二、模型
DIN模型：
DIEN的模型結構如下：
可以看到，DIN和DIEN的最底層都是Embedding Layer，User profile， target AD和context feature的處理方式是一致的。
不同的是，DIEN將user behavior組織成了序列數據的形式，並把簡單的使用外積完成的activation unit變成了一個attention-based GRU網絡。
轉載：
https://blog.csdn.net/dQCFKyQDXYm3F8rB0/article/details/90815826
推薦系統遇上深度學習(二十四)--深度興趣進化網絡DIEN原理及實戰！