科普 | 你已经知道比特币,但知道「比特」从何而来吗?
编者按:本文来自,作者:老练哥,36氪经授权发布。
又名香农,美国数学家、电子工程师、密码学家,被誉为信息论的创始人,智商堪比爱因斯坦、牛顿。但你可能不知道,爱迪生·阿尔瓦是他的远房亲戚,他的祖父发明了洗衣机和许多农业机械。
香农1916年4月30日出生于美国密歇根州安娜堡小镇,他从小就对密码学感兴趣,尤其喜欢埃德加·爱伦·坡的短篇小说《金甲虫》,中文译作《金甲虫》,主人公破译一张神秘地图,找到了宝藏。
1916-2001,被认为是有史以来最伟大的电气工程英雄之一,照片:Rowin
他最著名、影响最大的论文是《信息论 A》,这是信息论的奠基之作,准确定义了信源编码、信道编码等概念。然而,这篇宏伟著作当时被拒了。审稿人的回复大致是:电报已经问世一百多年了,没什么可突破的,建议作者试着研究一下刚刚出现的电视。
至:
唯一的缺点是它与 的发现并不完全一致。在任何时候,都有性感的和:
这些天,很性感,颜色也很均匀。有一个是好的,是100岁,一个很好的话题。
拒绝“通信的数学理论”的审稿人的回复
其实,我们一直生活在信息论的影响下。但你有没有想过,自己是否真的懂“信息”?你可能通过比特币认识了比特,或者很早就听说过比特,但你知道吗,比特是信息的最小单位?
香农和图灵,人工智能的愿景
第二次世界大战期间,他加入贝尔实验室研究火控系统和密码学,相关课题直接受国防研究委员会领导。
在贝尔实验室,他与信息技术史上的另外两位先驱约翰·香农保持着良好的关系。由于身边都是他所敬佩的高智商和创造力的人,香农在这一过程中受益匪浅,变得更加聪明,富有创造力。从中也可以看出,对待友谊的态度主要注重内容,而不仅仅是关系。
在贝尔实验室
1943年,英国数学家、密码学家阿兰·图灵在访问华盛顿与美国海军交流破译德国北大西洋潜艇舰队密码的结果时,参观了贝尔实验室。二战期间,图灵和香农都负责通讯加密和解密工作。
期间,图灵和香农进行了热烈的知识交流,讨论了人工思维机器的想法,这接近于我们今天所说的人工智能。图灵向香农介绍了通用图灵机的概念,而香农则告诉图灵,自己不满足于往这个“大脑”里输入数据,还希望往里面灌输文化的东西。这个不可思议的想法,连图灵自己都震惊了。
图灵比香农大四岁。
信息从 至
“信息论”是研究“信息”的理论。信息极大地释放了人类的能量,所创造的价值超过了前五千年的财富总和,但“信息”依然是一个熟悉而又模糊的词。
信息论的伟大贡献在于信息量可以用数学公式严格定义,体现信息表达的统计特性。
20世纪初,信息载体无处不在,书信、电话、声音、图像等应有尽有,信息在全球流动。据美国人口普查局统计摘要,截至1948年,美国每天通过贝尔系统2.22亿公里有线电缆和3100万部电话拨打1.25亿个电话,此外还有3186个广播电台、1.5万份报纸和4000亿封信件。
如此之多的信息流动,该如何计量?邮局可以统计信件和包裹的数量,但贝尔系统传输的信息量该用什么单位来计量?当时,没有一个词可以准确概括所有这些事情。在 1939 年写给布什的一封信中,他提到自己正在断断续续地研究通用信息系统的一些基本性质。
谈到这个词,埃利奥特爵士在 16 世纪将其概括为“通过交换书信或信息达成的协议或惯例的礼貌表达方式”。但如今我们提到的信息与当时的意思越来越不同。
贝尔研究期刊,1948 年 7 月,CE“通信的数学理论”
后来,贝尔实验室的一些工程师开始更多地使用这个术语来表达一些技术概念,例如信息量,测量等。作为其中之一,我后来在《信息论》中也采用了这个术语。此后,它逐渐成为主流。
回过头来看,在物理学发展遭遇瓶颈的时候,牛顿也重新定义了一些传统但模糊的术语,比如力、时间、质量等,开创了物理学的新纪元,也正是牛顿将这些术语量化,并把它们放到了数学公式中。
那么,如何将信息转化为数学公式呢?
信息单位“比特”定义
通信学是最早系统研究信息论的学科,在信息论提出之前,数字通信发展的一些重大事件有:
1837年,莫尔斯:有线电报;
1875年,埃米尔(Emile):定长电报代码;
1924:给出了给定带宽的电报信道上无符号间干扰的最大可用信号速率;
1928:在带限信道中,当最大信号幅度为Amax,幅度失真为Ad时,存在一个最大数据速率以实现可靠通信;
1939 - 1942 年,最佳线性滤波器;
1947 年:基于几何方法的各种相干解调。
1948年,贝尔实验室:开发出小型电子半导体器件“晶体管”;发表专题论文《通信的数学理论》。
令人惊讶的简单“晶体管”器件比真空管更高效、更小、更易于集成。晶体管这个名字是跨导()和压敏电阻()两个词的组合,至今仍在使用。贝尔实验室称,“晶体管”将对电子和电信行业产生深远影响。从那时起,晶体管引发了电子技术的科学革命,使半导体技术小型化和普及化。但这只是电子行业这场革命的硬件部分。
晶体管的发明者约翰和三人获得了1956年的诺贝尔物理学奖
同样是在1948年,一篇特殊的论文《通信的数学理论》或许更有价值,这篇论文的唯一作者,当时32岁,定义了一个新词——bit。
人们认为信息就像长度、重量等物理属性一样,是可以测量和标准化的,今天比特作为信息的计量单位,已经和米、公斤、分钟一样,成为我们日常生活中最常用的量纲之一。
当用比特来衡量时,人们发现信息几乎无处不在,比特的出现,后来带来了计算机、互联网、摩尔定律,以及今天发达的信息产业、比特币、区块链。
同时提出利用信息熵来量化衡量信息的大小,为信息编码提供理论上的最优值。
他从理论上证明了只要通信速率低于信道容量,总能找到一种编码方法使得错误概率接近于零。信道容量只需根据信道带宽和噪声特性,利用香农公式即可简单计算出来。这一结论震惊了整个通信理论界,开创了“信息论”这门伟大的学科。
在手推车上
密码从艺术变成科学
1949年,他根据1945年在贝尔实验室完成的机密报告《机密系统的通信理论》发表了论文《机密系统的通信理论》,开辟了利用信息论研究密码学的新思路。《波士顿环球报》称:“这一发现使密码学从艺术变成了科学。”论文发表后,香农被美国政府聘为政府密码学顾问。
“A 的”
成为现代密码理论的创始人和先驱
可以说,《保密系统的通信理论》奠定了现代密码理论的基础。他提出,“从密码分析员的角度来看,保密系统几乎就是通信系统。”加密在密码系统中的作用类似于信息中存在的噪声。密钥的随机性就是关键。
这使得“信息论”成为密码研究和分析的重要理论基础,使密码学从一门艺术变成了一门科学。通信系统中的信息传输、处理、检测和接收过程,密码系统中的加密、解密、分析和解密过程,都可以用信息论的视角进行统一的分析和研究。
他在论文中指出,设计一个高质量的密码系统,本质上就是寻找一个难题的解,使得破解密码等同于解决一个已知的数学问题。受此思想启发,W.和E.于1976年在IEEE发表了题为《密码学新论》的论文,诠释了密码学的新方向,标志着公钥密码学的诞生。他们也于2016年获得了图灵奖。
人类经历了铁器时代、蒸汽机时代之后,进入了信息时代。马歇尔·麦克卢汉在1964年评论道:人类曾经靠采集食物为生,现在又要靠采集信息为生。信息不仅限于通讯业,而是已经渗透到了所有科学领域。
正如一位信息论领域的著名学者在美国密歇根州一个小镇的香农雕像揭幕仪式上所说,两三百年后,当人们回顾我们这个时代,可能不记得谁是美国总统,谁是影星,谁是歌手,但他们可能知道香农,因为“信息论”仍然在学校里教授。