在线最优化求解(Online Optimization)之五：FTRL 在上一篇博文中中我们从原理上定性比较了L1-FOBOS和L1-RDA在稀疏性上的表现。有实验证明，L1-FOBOS这一类基于梯度下降的方法有比较高的精度，但是L1-RDA却能在损失一定精度的情况下产生更好的稀疏性 ...

在线最优化求解(Online Optimization)之三：FOBOS FOBOS (Forward-Backward Splitting)是由John Duchi和Yoram Singer提出的[11]。从全称上来看，该方法应该叫FOBAS，但是由于一开始作者管这种方法叫FOLOS ...

　　最自然的学习规则是使用任何在过去回合中损失最小的向量。 这与Consistent算法的精神相同，它在在线凸优化中通常被称为Follow-The-Leader，最小化累积损失。 　　对于任何t: ...

开启一个在线学习和在线凸优化框架专题学习： 1.首先介绍在线学习的相关概念 在线学习是在一系列连续的回合（rounds）中进行的； 在回合,学习机（learner）被给一个question：(一 ...

紧接上文，我们讲述在线分类问题 令，为0-1损失，我们做出如下的简化假设： 学习者的目标是相对于hypotheses set: H具有low regret，其中H中的每个函数是从到{0,1} ...

　　近年来，许多有效的在线学习算法的设计受到凸优化工具的影响。 此外，据观察，大多数先前提出的有效算法可以基于以下优雅模型联合分析： 　　 　　凸集的定义： 　　 　　一个向量 的Regret ...

　　一些在线预测问题可以转化到在线凸优化框架中。下面介绍两种凸化技术： 　　一些在线预测问题似乎不适合在线凸优化框架。例如，在线分类问题中，预测域（predictions domain）或损失函数不 ...

FTRL（Follow The Regularized Leader）是一种优化方法，就如同SGD（Stochastic Gradient Descent）一样。这里直接给出用FTRL优化LR（Logistic Regression）的步骤： 其中$p_t=\sigma(X_t\cdot w ...