在機器學習中，我們將模型在訓練集上的誤差稱之為訓練誤差，又稱之為經驗誤差，在新的數據集（比如測試集）上的誤差稱之為泛化誤差，泛化誤差也可以說是模型在總體樣本上的誤差。對於一個好的模型應該是經驗誤差約等於泛化誤差，也就是經驗誤差要收斂於泛化誤差，根據霍夫丁不等式可知經驗誤差在一定條件下是可以收斂 ...

0x00 概述 在數據挖掘中，我們經常需要計算樣本之間的相似度，通常的做法是計算樣本之間的距離。 在本文中，數據科學家 Maarten Grootendorst 向我們介紹了 9 種距離度量方法，其中包括歐氏距離、余弦相似度等。 許多算法，無論是監督學習還是無監督學習，都會使用距離度量 ...

　　損失函數是機器學習中常用於優化模型的目標函數，無論是在分類問題，還是回歸問題，都是通過損失函數最小化來求得我們的學習模型的。損失函數分為經驗風險損失函數和結構風險損失函數。經驗風險損失函數是指預測結果和實際結果的差別，結構風險損失函數是指經驗風險損失函數加上正則項。通常 ...

損失函數是用來估量你模型的預測值f(x)與真實值Y的不一致程度，它是一個非負實值函數,通常使用L(Y, f(x))來表示，損失函數越小，模型的魯棒性就越好。損失函數是經驗風險函數的核心部分，也是結構風 ...

在機器學習、人工智能領域常用的距離計算公式。 曼哈頓距離 曼哈頓距離又稱“計程車距離”，由十九世紀的赫爾曼·閔可夫斯基所創。點\(P_1(x_1,y_1)\)和\(P_2(x_2,y_2)\)的距離如下： \[distance(P_1,P_2)=|x_2-x_1|+|y_2-y_1 ...

采樣方法 目錄 采樣方法 Inverse CDF 接受-拒絕采樣(Acceptance-Rejection Sampling) 蒙特卡洛方法 重要性采樣： MCMC(Markov Chain Monte ...

機器學習無疑是當前數據分析領域的一個熱點內容。很多人在平時的工作中都或多或少會用到機器學習的算法。本文為您總結一下常見的機器學習算法，以供您在工作和學習中參考。 機器學習的算法很多。很多時候困惑人們都是，很多算法是一類算法，而有些算法又是從其他算法中延伸出來的。這里，我們從兩個方面來給大家介紹 ...

，所以也被稱為“最速下降法”。最速下降法越接近目標值，步長越小，前進越慢。 在機器學習中，基於基本的梯度下 ...