推荐系统系列（三）：FNN理论与实践
背景 在FM之后出现了很多基于FM的升级改造工作，由于计算复杂度等原因，FM通常只对特征进行二阶交叉。当面对海量高度稀疏的用户行为反馈数据时，二阶交叉往往是不够的，三阶、四阶甚至更高阶的组合交叉能够进一步提升模型学习能力。如何能在引入更高阶的特征组合的同时，将计算复杂度控制在一个可接受的范围内 ...
原文：推荐系统系列（一）：FM理论与实践
背景 在推荐领域CTR click through rate 预估任务中，最常用到的baseline模型就是LR Logistic Regression 。对数据进行特征工程，构造出大量单特征，编码之后送入模型。这种线性模型的优势在于，运算速度快可解释性强，在特征挖掘完备且训练数据充分的前提下能够达到一定精度。但这种模型的缺点也是较为明显的： 模型并未考虑到特征之间的关系 y w sum i n ...
2019-10-03 15:17 0 417 推荐指数：
相关推荐
推荐系统系列（四）：PNN理论与实践
背景 上一篇文章介绍了FNN [2]，在FM的基础上引入了DNN对特征进行高阶组合提高模型表现。但FNN并不是完美的，针对FNN的缺点上交与UCL于2016年联合提出一种新的改进模型PNN（Product-based Neural Network）。 PNN同样引入了DNN对低阶特征进行组合 ...
推荐系统系列（五）：Deep Crossing理论与实践
背景 特征工程是绕不开的话题，巧妙的特征组合也许能够为模型带来质的提升。但同时，特征工程耗费的资源也是相当可观的，对于后期模型特征的维护、模型线上部署不太友好。2016年，微软提出Deep Cros ...
推荐系统实践 0x0c FM系列(LR/FM/FFM)
逻辑回归（LR） 在介绍FM系列之前，我想首先简单介绍一下逻辑回归。通常来说，逻辑回归模型能够综合利用更多的信息，如用户、物品、上下文等多种不同的特征，生成更为全面的结果。另外，逻辑回归将推荐问题看成一个分类问题。通过预测正样本的概率对物品进行排序，这里的正样本可以是用户观看了某个视频，也可以是 ...
推荐系统系列（六）：Wide&Deep理论与实践
背景 在CTR预估任务中，线性模型仍占有半壁江山。利用手工构造的交叉组合特征来使线性模型具有“记忆性”，使模型记住共现频率较高的特征组合，往往也能达到一个不错的baseline，且可解释性强。但这种 ...
推荐系统模型之 FM
什么是FM模型 FM英文全称是“Factorization Machine”，简称FM模型，中文名“因子分解机”。 FM模型其实有些年头了，是2010年由Rendle提出的，但是真正在各大厂大规模在CTR预估和推荐领域广泛使用，其实也就是最近几年的事。 FM模型 原理 ...
推荐系统实战(二) —— FM
因子分解机系列--FM 1.FM背景 FM (Factorization Machine) 主要是为了解决数据稀疏的情况下，特征怎样组合的问题。目前主要应用于CTR预估以及推荐系统中的概率计算。下图是一个广告分类的问题，根据用户和广告位相关的特征，预测用户是否点击了广告。图片来源，详见参考 ...
FM的推导原理--推荐系统
FM：解决稀疏数据下的特征组合问题 Factorization Machine(因子分解机) 美团技术团队的文章，觉得写得很好啊：https://tech.meituan.com ...