注：該文是上了開智學堂數據科學基礎班的課后做的筆記，主講人是肖凱老師。 最優化 為什么要做最優化呢？因為在生活中，人們總是希望幸福值或其它達到一個極值，比如做生意時希望成本最小，收入最大，所以在很多商業情境中，都會遇到求極值的情況。 函數求根 這里「函數的根」也稱「方程的根」，或「函數 ...

發現自己傻傻分不清斜率優化和決策單調性→_→，被一些博客誤導了。。於是總結一下。萌新們可以先寫寫[hnoi2008]玩具裝箱，並不難。 數 　　相信有心想學習斜率優化的同志們一定自己摸索着寫過[hnoi2008]玩具裝箱這道題吧，我剛開始學習斜率優化的時候，也是寫了這個，然后似懂非懂的發現 ...

在優化問題中，尋找最優解過程中兩個基本的難點：一是局部最優不一定是全局最優，而通過各類算法找到的最優值往往是局部最優值；其次便是約束條件的復雜性導致求解算法的復雜性大幅度增加。凸優化問題的優勢在於其局部最優解就是全局最優解，技巧與難點體現在描述問題的環節，一旦問題被建模為凸優化問題，求解過程 ...

優化學習率的相關算法 在使用優化算法的時候，常常會涉及到一些學習率的優化，那么我們應該怎么優化學習率呢？ 調整學習率的策略： 1.在斜率(方向導數)大的地方，使用小的學習率 2.在斜率(方向導數)小的地方，使用大的學習率 下面我們通過梯度下降算法進行學習率的優化分析 在梯度下降中，設x ...

mysql性能優化 硬件對數據庫的影響 CPU資源和可用內存大小 服務器硬件對mysql性能的影響 我們的應用是CPU密集型？ 我們的應用的並發量如何？ 數量比頻率更好 64位使用32位的服務器版本 32位不能使用超過4G的內容，因此選擇的時候需要 ...

MySQL服務器參數介紹 mysql參數介紹（客戶端中執行），盡量只修改session級別的參數。 全局參數（新連接的session才會生效，原有已經連接的session不生效） set global 參數名=參數值; set @@global.參數名 :=參數值 ...

通用的損失函數最優化的數值方法，來源於泰勒展開式，多元函數的泰勒展開式為： 一、一階逼近與一階方法 一階泰勒展開式： 其中，是代表了β變化的可能性，t在之后說到的梯度下降方法中演變成了學習速率。 現在，我們需要第二項最小，向量內積，最小為-|梯度||a|，這就是β的改變量。梯度 ...