Click can be Cheating: Counterfactual Recommendation for Mitigating Clickbait Issue
Authors: 王文傑,馮福利,何向南,張含望,蔡達成
SIGIR'21 新加坡國立大學,中國科學技術大學,南洋理工大學
論文鏈接:https://dl.acm.org/doi/pdf/10.1145/3404835.3462962
本文鏈接:https://www.cnblogs.com/zihaojun/p/15713705.html
0. 總結
這篇文章在不引入用戶反饋信息的情況下,利用物品的外觀特征(exposure feature)和內容特征(content feature),用反事實推斷的方法,去除物品外觀特征對推薦結果的直接影響,解決推薦系統中“標題黨”的問題。
1. 問題背景
在推薦系統的訓練數據中,通常將用戶點擊過的物品作為正樣本進行訓練。但是,用戶點擊一個物品不一定是因為用戶喜歡這個物品,也可能是因為物品的外觀很吸引人,但是內容很差。這種現象稱為Clickbait Issue——引誘點擊問題。
- 例如,在視頻推薦場景下,用戶點擊一個視頻,可能只是因為視頻的封面和標題做的很好,但點進去可能並不喜歡看。
- 在文章/新聞推薦場景下也是如此,很多標題黨文章可以獲得很多點擊,但用戶對這種文章是深惡痛絕的。
Clickbait Issue會導致用戶對推薦系統的信任度下降,也會導致低質量的標題黨信息在系統中泛濫,產生劣幣驅逐良幣的效果和馬太效應。
因此,設計和訓練推薦模型時,不能只追求點擊率優化,而應該追求更高的用戶滿意度,避免陷入“推薦標題黨內容-標題黨獲得更多點擊-推薦更多標題黨內容”的惡性循環中。
2. 研究目標
利用物品的外觀信息和內容信息,區分用戶的點擊是因為被標題/封面吸引,還是真的喜歡物品的內涵。
3. 方法
3.1 符號和概念
數據集包含歷史點擊數據\(\bar{\mathcal{D}}=\left\{\left(u, i, \bar{Y}_{u, i}\right) \mid u \in \mathcal{U}, i \in \mathcal{I}\right\}\),其中\(\bar{Y}_{u, i} \in \{0,1\}\),分別表示沒有/有點擊交互。物品特征包括暴露信息(Exposure features)和內容信息(Content features),\(i = (e,t)\),暴露信息(e)在用戶點擊之前就能看到,比如標題和封面圖;內容信息(t)在點擊之后才能看到,例如文章內容、視頻內容或物品詳情等。
推薦模型預測結果\(Y_{u,i} = s_{\theta}(u,i) \in [0,1]\),優化目標為:
Clickbait Issue:如果推薦系統給出的推薦列表中,把標題很吸引人,但是內容很差的物品\(i\)排在標題不太吸引人,但是內容比較好的物品\(j\)之前,則認為發生了Clickbait Issue。
Causal effect:因果效應分解,參見【因果推斷】中介因果效應分解 匯總與理解(為了讀懂這個分解方法,花了很多時間來研究,才寫成此文)
- 總體因果效應:包含直接路徑和間接路徑的因果效應。
- 直接因果效應:通過直接路徑產生的因果效應。
- 間接因果效應:通過中介節點產生的因果效應。
3.2 因果推薦模型
如圖3(a),在傳統的基於特征的推薦模型中,會將物品特征(E, T)都作為輸入,通過MLP等模型,得到item的表示(I)。
但是用戶可能只是被標題等信息吸引而點擊一個物品,因此,本文提出,建模曝光特征(E)對點擊(Y)的直接因果效應,如圖3(b)。

Mitigating Clickbait Issue
- 為了解決推薦結果的Clickbait Issue,需要將\(E\rightarrow Y\)這條路徑的影響去掉。我們希望去除的是E對Y自然直接效應,保留E對Y的自然間接效應和交互效應,即保留總體間接效應TIE,因此,不能直接對這條路徑做干預,否則就會去除掉總體直接效應,只剩自然間接效應NIE:
本文希望得到的總體間接效應:
- 具體請參考博文【論文筆記】Direct and Indirect Effects、【因果推斷】中介因果效應分解 匯總與理解
- 從因果圖的角度來理解,\(Y_{u, i, e}\)和\(Y_{u, i^*, e}\)的因果圖中,\(E \rightarrow Y\)這條邊是一樣的(都是e),因此\(E \rightarrow Y\)的直接影響可以被減掉,還剩下\(I \rightarrow Y\)的影響。
- 直觀理解,如果一個物品是靠標題黨來吸引流量的,則這個物品在反事實世界中的點擊率(\(Y_{u, i^*, e}\))會很高,從而在反事實推薦模型中被排到后面去。
3.3 模型設計
在因果圖中,影響點擊概率Y的變量有三個(e,u,i),本文分別建立了u-e模型和u-i模型,分別捕捉物品曝光特征和總體特征對用戶點擊概率的影響:
模型訓練:
模型預測:
\(c_u\)是用戶u對所有物品特征的平均興趣:
4. 實驗
4.1 實驗結果
使用了兩個有物品特征和用戶反饋的數據集,統計信息見下表:
對於每個用戶,將正樣本按8:1:1的比例隨機划分訓練集、驗證集和測試集,其中測試集中只包含用戶給出正反饋的物品。
baseline:
- NT:(Normal Training)使用正常的訓練數據,即使用曝光特征+內容特征作為模型輸入,使用點擊數據(而不是只使用正反饋數據)作為正樣本參與訓練。
- CFT:(Content Feature Training)只使用內容特征來訓練模型,同樣使用點擊數據作為正樣本參與訓練。
- IPW:訓練階段使用Inverse Propensity Score的方法來做debias[27,28]。
以下三個baseline是利用了用戶反饋數據的:
- CT:(Clean Training)只使用正反饋數據作為正樣本來訓練。
- NR:(Negative feedback Re-weighting)將點擊但不喜歡的樣本,與未點擊的樣本一起作為負樣本進行訓練。
- RR:(Re-Rank)在NT的基礎上,對每個用戶前20的推薦物品,結合物品的點贊率進行重排序。

實驗表明,本文提出的方法CR(Counterfactual Recommendation)的性能高於所有baseline。
4.2 性能比較
- CFT性能比NT要差,說明簡單地去除曝光特征是不行的。IPW性能也很差,這可能與本文的設定下,propensity score很難估計有關。
- CR的性能高於NT,說明利用用戶反饋數據的有效性,更能捕捉用戶對內容的興趣。但CT和NR的性能比較差,這可能是因為直接拋棄用戶點擊但未給出正反饋的那些數據,會使得數據量大大減少。
一些想法
- 有些物品可能難以收集或者定義曝光特征,此時就無法應用此方法
- 本文的模型設計是比較反直覺的,不是直接在預測時把包含e的項去掉,而是減去一項\(c_{u} * \sigma\left(Y_{u, e}\right)\)。這也是因果推斷理論的作用——給出不怎么符合直覺但是更合理更有效的模型設計方法。
- 這是2021年的最后一個晚上發表的今年最后一篇隨筆,2021年我發生了很大的變化,希望在即將到來的2022年,能盡快達到自己滿意的學術水平,順利開啟博士生涯,抓緊在校園的時光,努力學本領。加油加油!
進一步閱讀
[45] Tyler J VanderWeele. 2013. A three-way decomposition of a total effect into direct, indirect, and interactive effects. Epidemiology (Cambridge, Mass.) 24, 2 (2013), 224
[30] Dugang Liu, Pengxiang Cheng, Zhenhua Dong, Xiuqiang He, Weike Pan, and Zhong Ming. 2020. A General Knowledge Distillation Framework for Counterfactual Recommendation via Uniform Data. In SIGIR. ACM, 831–840
[35] Yulei Niu, Kaihua Tang, Hanwang Zhang, Zhiwu Lu, Xian-Sheng Hua, and JiRong Wen. 2020. Counterfactual VQA: A Cause-Effect Look at Language Bias. In arXiv:2006.04315
[37] Judea Pearl. 2001. Direct and indirect effects. In UAI. Morgan Kaufmann Publishers Inc, 411–420.
[43] Kaihua Tang, Jianqiang Huang, and Hanwang Zhang. 2020. Long-Tailed Classification by Keeping the Good and Removing the Bad Momentum Causal Effect. In NeurIPS.
[44] Kaihua Tang, Yulei Niu, Jianqiang Huang, Jiaxin Shi, and Hanwang Zhang. 2020. Unbiased scene graph generation from biased training. In arXiv:2002.11949
[27] Dawen Liang, Laurent Charlin, and David M Blei. 2016. Causal inference for recommendation. In UAI. AUAI.
[28] Dawen Liang, Laurent Charlin, James McInerney, and David M Blei. 2016. Modeling user exposure in recommendation. In WWW. ACM, 951–961
[32] Hongyu Lu, Min Zhang, and Shaoping Ma. 2018. Between Clicks and Satisfaction: Study on Multi-Phase User Preferences and Satisfaction for Online News Reading. In SIGIR. ACM, 435–444.
[52] Hong Wen, Jing Zhang, Yuan Wang, Fuyu Lv, Wentian Bao, Quan Lin, and Keping Yang. 2020. Entire space multi-task modeling via post-click behavior decomposition for conversion rate prediction. In SIGIR. ACM, 2377–2386