在20世紀20年代,一個好奇心重的鄉下小孩或許自然而然會對通過 電線發送訊息產生濃厚興趣,成長於密歇根州蓋洛德鎮的克勞德·香農 就是如此。 他每天都能見到電線,不過它們是用來圈護牧場的刺鐵絲護 欄網——由兩股鋼絲絞成,並帶有倒刺,從一根樁子連到另一根樁子。 他會討來他所能討到的一切零件,臨時架設 ...
克勞德 香農花了差不多 年,制定了一套完整的 具有開創性意義的信息理論。 一開始在研究生院時,他只是想給當時的眾多信息技術 如電話,收音機,電視機 建立一套通用的技術基礎。 直到 年,他發表了一篇名為 通信的數學理論 的論文。 他的重大貢獻可不止這篇論文。當他還在MIT攻讀碩士時,年僅 歲的他發表了一篇論文,這也被大家認為是 世紀最重要的碩士論文。 對於普通人來說,這無足輕重。香農並不是一個家喻戶 ...
2019-03-18 17:36 0 1296 推薦指數:
在20世紀20年代,一個好奇心重的鄉下小孩或許自然而然會對通過 電線發送訊息產生濃厚興趣,成長於密歇根州蓋洛德鎮的克勞德·香農 就是如此。 他每天都能見到電線,不過它們是用來圈護牧場的刺鐵絲護 欄網——由兩股鋼絲絞成,並帶有倒刺,從一根樁子連到另一根樁子。 他會討來他所能討到的一切零件,臨時架設 ...
之前只知道香農於1948年發表的那篇舉世矚目的paper,《A Mathematical Theory of Communication》,過了一年拉上Warren Weaver作為共同作者出了個單行本,標題只改了一個字,《The Mathematical Theory ...
寫在前面: 原諒我是個標題黨,這篇不是什么技術貼來的,所以當然無需一行代碼。。連續寫了好幾篇技術隨筆,望博客園管理員放過,我下次一定好好繼續寫技術總結~~~ 背景:尤記得去年6月的某個周末,因為項 ...
信息論(Information Theory)是概率論與數理統計的一個分枝。用於信息處理、信息熵、通信系統、數據傳輸、率失真理論、密碼學、信噪比、數據壓縮和相關課題。 基本概念 先說明一點:在信息論里面對數log默認都是指以2為底數。 自信息量 聯合自信息量 條件自信息 ...
所處的時代是信息時代,信息時代的最主要特征是不確定性。以前的靠某個規律或者通過簡單的幾條生活智慧活好一輩 ...
必應/谷歌 找准關鍵詞 也許需要從一個模糊的關鍵詞推導到正確的、准確的關鍵詞 eg.C# 上傳圖片->上傳圖片的多種插件->尋找符合自己需求的插件->閱讀文檔學習->開發 " ...
1.學習要有一個框架,自己畫個思維腦圖 2.解決問題從結果和原因出發,不要一直盯着一個點百度,多方面原因 3.方法,把方法掌握,很多題目都立刻不了幾個核心的點,找到大的解決方向,在去該方向里面找具體的解決方案 例1; 我2個相同的請求參數(變量不一樣),最后結果卻都是一樣的,我百度 ...
分類問題損失函數的信息論解釋 分類問題的優化過程是一個損失函數最小化的過程,對應的損失函數一般稱為logloss,對於一個多分類問題,其在N個樣本上的logloss損失函數具有以下形式: 其中,yi(n)代表第n個樣本是否屬於第i個類別,取值為0或1,f(x(n))i代表分類模型對於第n ...