老師強調：作為計算機工程師，傳統的算法和數據結構是最基礎的內容，要掌握。 一、節點數據集的划分 　1）決策樹算法的思想 解決分類問題時，決策樹算法的任務是構造決策樹模型，對未知的樣本進行分類； 決策樹算法利用了信息熵和決策樹思維： 信息熵越小的數據集，樣本 ...

matlab ...

決策的最優停止理論 “認知”的局限性和邊界 以前的課程里我們講到過：認知是一種我們生存的手段。一個物種要生存繁衍需要各種各樣的認知，包括感知和人類的理性活動，都是一個工具和手段。那么，我們應該如何用好和優化這個工具呢？ 首先，我們要清楚這個工具本身的局限。 比如說，人活着 ...

層次分析法最大的缺點：判斷依賴於專家，主觀性太強 ，數據不准確 熵權法 一種客觀的賦值方法 原理：指標的變異程度越小，所反映的信息量就越少，對應的權值也應該越低，（客觀=數據本身可以告訴我們權重）一個極端的例子，對於所有的樣本而言， ...

一.熵 自然界中的熵: 自封閉系統的運動總是倒向均勻分布: 1.自信息: 信息: i(x) = -log(p(x)) a.如果說概率p是對確定性的度量 b.那么信息就是對不確定性的度量 c.當一個小概率事件發生了，這個事件的信息量很大；反之如果一個大概率事件發生 ...

多准則決策–Multiple Criteria Decision Making 多准則決策–Multiple Criteria Decision Making 多准則決策是指在具有相互沖突、不可共度的有限(無限)方案集中進行選擇的決策。它是分析決策理論的重要內容 ...

? 1 2 3 4 ...

信息增益准則選擇最優特征 父節點的熵是經驗熵H(D) 子節點的熵是划分后集合的經驗熵H(D) 父節點的熵大於子節點的熵 熵越大，不確定性越大 ...