近年來,許多有效的在線學習算法的設計受到凸優化工具的影響。 此外,據觀察,大多數先前提出的有效算法可以基於以下優雅模型聯合分析:
凸集的定義:
一個向量 的Regret定義為:
如前所述,算法相對於競爭向量的集合U的Regret被定義為:
備注:
在線凸優化問題中,學習機的預測應該來自集合S,而我們分析關於集合U的Regret。當我們不指定U時,我們默認U=S。另外,S的默認設置將是。
未完,待續。。。。。。
接下來,我們從凸化技術開始,展示了如何在非凸問題中利用在線凸優化框架。然后,我們開始描述和分析在線凸優化的算法框架。