在上一篇N-gram模型中提到稀疏问题，即某些在文本中通常很少出现的词,在某一局部文本中突然大量地出现，本篇主要讨论它的解决办法--数据平滑（data smoothing）。 问题描述 　　N-gram存在问题，训练语料毕竟是有限的，这样导致很多事件，如trigram中，w1 w2 w3 ...

相关方法合集见：https://github.com/quincyliang/nlp-data-augmentation 较为简单的数据增强的方法见论文：https://arxiv.org/pdf/1901.11196.pdf 论文中所使用的方法如下： 1. 同义词替换（SR ...

以前在做CV时，数据增强的方法裁剪，模糊，翻转等，学习NLP时对数据增强的方法很少介绍，现将其增强方法整理如下： ...

对于目前大规模的电子商务平台，如淘宝、ebey，其用户、商品数量都非常大。淘宝数据显示，2010年淘宝网注册用户达到3.7亿，在线商品数达到8亿，最多的时候每天6000万人访问淘宝网，平均每分钟出售4.8万件商品。假如我们要做User-Item的协同过滤算法，那么U-I矩阵大小是6000万 ×8亿 ...

数据平滑 数据的平滑处理通常包含有降噪、拟合等操作。降噪的功能意在去除额外的影响因素，拟合的目的意在数学模型化，可以通过更多的数学方法识别曲线特征。 案例：绘制两只股票收益率曲线。收益率 =（后一天收盘价-前一天收盘价） / 前一天收盘价 　　使用卷积完成数据降噪 ...

https://github.com/google-research/uda ...

参考书籍：《统计自然语言处理》 宗成庆 一、问题的提出 平滑技术就是用来解决句子中出现零概率的问题，“平滑”处理的基本思想是“劫富济贫”，即提高低概率(零概率)，降低高概率，尽量使概率的分布趋于实际水平。 二、几种数据平滑技术 1.加法平滑技术 是实际应用 ...

分箱 (binning) 通过考察数据的“近邻”周围的值来光滑有序的数据值。 回归 （regression) 用一个函数（回归函数）拟合数据来平滑数据。 聚类 (clustering) 将类似的值聚集为簇 ...