小传：克劳德·艾尔伍德·香农
在20世纪20年代，一个好奇心重的乡下小孩或许自然而然会对通过 电线发送讯息产生浓厚兴趣，成长于密歇根州盖洛德镇的克劳德·香农 就是如此。 他每天都能见到电线，不过它们是用来圈护牧场的刺铁丝护 栏网——由两股钢丝绞成，并带有倒刺，从一根桩子连到另一根桩子。 他会讨来他所能讨到的一切零件，临时架设 ...
原文：克劳德·香农（信息论之父）：天才的解决问题之道
克劳德 香农花了差不多 年，制定了一套完整的 具有开创性意义的信息理论。 一开始在研究生院时，他只是想给当时的众多信息技术 如电话，收音机，电视机 建立一套通用的技术基础。 直到 年，他发表了一篇名为 通信的数学理论 的论文。 他的重大贡献可不止这篇论文。当他还在MIT攻读硕士时，年仅 岁的他发表了一篇论文，这也被大家认为是 世纪最重要的硕士论文。 对于普通人来说，这无足轻重。香农并不是一个家喻户 ...
2019-03-18 17:36 0 1296 推荐指数：
相关推荐
香农的信息论
之前只知道香农于1948年发表的那篇举世瞩目的paper，《A Mathematical Theory of Communication》，过了一年拉上Warren Weaver作为共同作者出了个单行本，标题只改了一个字，《The Mathematical Theory ...
前端修炼之路：无需一行代码，教你手写克劳德
写在前面： 原谅我是个标题党，这篇不是什么技术贴来的，所以当然无需一行代码。。连续写了好几篇技术随笔，望博客园管理员放过，我下次一定好好继续写技术总结~~~ 背景：尤记得去年6月的某个周末，因为项 ...
信息论
信息论（Information Theory）是概率论与数理统计的一个分枝。用于信息处理、信息熵、通信系统、数据传输、率失真理论、密码学、信噪比、数据压缩和相关课题。 基本概念 先说明一点：在信息论里面对数log默认都是指以2为底数。 自信息量 联合自信息量 条件自信息 ...
信息论
所处的时代是信息时代，信息时代的最主要特征是不确定性。以前的靠某个规律或者通过简单的几条生活智慧活好一辈 ...
解决问题的思路
必应/谷歌 找准关键词 也许需要从一个模糊的关键词推导到正确的、准确的关键词 eg.C# 上传图片->上传图片的多种插件->寻找符合自己需求的插件->阅读文档学习->开发 " ...
解决问题思路
1.学习要有一个框架，自己画个思维脑图 2.解决问题从结果和原因出发，不要一直盯着一个点百度，多方面原因 3.方法，把方法掌握，很多题目都立刻不了几个核心的点，找到大的解决方向，在去该方向里面找具体的解决方案 例1; 我2个相同的请求参数（变量不一样），最后结果却都是一样的，我百度 ...
分类问题损失函数的信息论解释
分类问题损失函数的信息论解释 分类问题的优化过程是一个损失函数最小化的过程，对应的损失函数一般称为logloss，对于一个多分类问题，其在N个样本上的logloss损失函数具有以下形式： 其中，yi(n)代表第n个样本是否属于第i个类别，取值为0或1，f(x(n))i代表分类模型对于第n ...