全球资讯:70年前他本想逃避考试:却影响了整个互联网
时间:2023-06-26 14:47:54

谁曾想,一次学生不想参加考试的“任性”,后来竟影响了整个互联网。

70年前MIT的一堂信息论课上,一位老师为了给学生“减压”,摆出一道选择题。


(相关资料图)

要么参加期末考试,要么写篇论文改进现有算法,自己挑。

这位老师名叫罗伯特·范诺,他没告诉学生们的是,这个“现有算法”,正是他和信息论创始人香农合著的香农-范诺编码。而为了改进算法不足,他本人已经投入大量时间进行研究。

(老师内心OS:没想到吧。)

虽然有点损,但这招还真管用。这票学生一听“交篇论文”就不用考试,拍脑袋就决定写论文,包括大卫?哈夫曼

不选不知道,一选吓一跳。初出茅庐的哈夫曼很快意识到了老师挖的坑——这论文也太**难搞了。

这一写,就是好几个月,并且苦苦挣扎中,哈夫曼仍然一无所获。

但命运,有时候就是十分奇妙。就在哈夫曼终于放弃“逃考”,准备将论文笔记扔到垃圾桶中时,突然灵光一现!答案出现了!

哈夫曼放弃对已有编码的研究,转向新的探索,最终发现了基于有序频率二叉树编码的方法。

他提出的这一想法,效率成功超越他老师的方法论。甚至在之后的发展中,以他命名的编码方法——哈夫曼编码,直接改变了数据压缩范式。

至于当时那篇结题报告,已引用近万次。

低效的传统编码方法

1951年,正在MIT任教的罗伯特·范诺正在思考一道信息论的难题:

如何用二进制代码高效表示数字、字母或者其他符号?

当时最常见、也是最直接的方法,就是为每个字符分配一个独一无二的二进制数。

比如,字母A可能表示为01000001,!表示为 00100001,每个八位数的数字都对应一个字符。

这样一来代码容易解析,但效率极低。

另外还有种优化方法,类似于摩尔斯电码。常用字母E仅由一个点表示,但不常见的Q需要更长且更费力的“—— —— · ——”。

这种方式,会导致代码长度不一, 信息不容易被理解;而且传输中还需要在字符间加入间隙,否则就无法区分不同的字符组合。

范诺意识到,或许这两种方法的优势可以兼并之——以不同长度的二进制代码表示字符。进一步地,为避免代码“重叠”,他还构建了二叉树。

他详尽地测试了每一种排列的可能性以获得最大效率,最终得到了一种有效情况:

每条消息按照频率分为两个分支,并尽可能让两边字母使用频率基本相同

这样,常用的字符就会在更短、密度更低的分支上。

1948年,信息论之父香农在介绍信息理论的文章“通信数学理论”中提出了这一方法;不久之后,范诺也独立地以技术报告形式将其发布。故而这套方法被称作是香农-范诺编码

但这个方法并非总是有效。像字母出现概率分别为{0.35,0.17,0.17,0.16,0.15}这种情况时,就不能给出理想编码。

范诺认为一定存在更好压缩策略。于是乎,这样的重任就交到了他的学生手里。

一次灵光乍现,一篇世纪论文

如果说,范诺教授他们的方法是从上到下构建字符树,并在成对的树枝之间尽可能保持对称。

那么哈夫曼的方法,是直接颠覆了这一过程——自下而上构建二叉树

他认为,无论发生什么情况,在一段有效的代码中,两个最不常见的字符应该有两个最长的代码

因此首先就确定两个最不常见的字符,将它们组合在一起作为一个分支对,然后再重复该过程,再从剩余字符中与刚刚构建的字符对中寻找最不常见的字符(对)。

schoolroom为例,其中O出现了四次,S、C、H、L、R、M各出现一次。

范诺的方法,就是首先将O与另一个字母分配给左侧分支,这样一来两边都是5次总使用量,生成的编码总共27位。

相比之下,哈夫曼的方法,比如就从不常见的r和m开始,将其组合成一个字母对。

组合完之后,现有字符(对)包括:O(4次)、RM(2次)以及单个字母S、C、H和L。

按照出现频率划分,重复上一操作——将两个不常见的选项分组,然后更新数树和频率图。

最终,“schoolroom”变成了 11101111110000110110000101,比Fano 自上而下的方法少了1位

虽然1位在这里并不多,但要是当扩展到数十亿字节时候,这就是一次不小的节省。

事实上,哈夫曼的方法已经被证明非常强大,据谷歌学术统计,当年论文已经被引用9570次。

至于他老师的办法,却几乎没有再被使用过。

直至今天,几乎所有无损压缩方法都全部或部分使用了哈夫曼的方法,可以压缩图像、音频、表格等。它支持从PNG图像标准到无处不在的软件PKZip 的一切。

现代计算机科学先驱、图灵奖得主高德纳曾这样形容哈夫曼的成就:

在计算机科学和数据通信领域,哈夫曼编码是人们一直在使用的基本思想。

后来哈夫曼再回忆起那个「灵光乍现」时刻,当时他正准备将论文笔记扔进垃圾桶,结果突然思想汇聚,答案在脑海里出现了:

那是我生命中最奇特的时刻。

突然恍然大悟,犹如闪电一般。

并表示,如果他知道自己的教授范诺(Fano)曾与这个问题作过斗争,他可能永远都不会尝试解决这个问题,更不用说在25岁的时候就大胆去尝试。

成就与秩序感,用数学玩艺术

哈夫曼编码改变了数据压缩范式,也为其赢得了众多荣誉与奖章。

比如,1998年哈夫曼获得 IEEE 信息理论学会颁发的技术创新金禧奖、1999年获得电气和电子工程师协会 (IEEE) 颁发的理查德·汉明奖章(Richard Hamming Medal)。

不过即便如此,在他一生历程中,相比发明无损压缩方法这件事儿,最让他引以为傲的反而是这篇博士论文。

题目:The Synthesis of Sequential Switching Circuits

哈夫曼在MIT读博期间,发布这篇讨论时序开关电路的重要论文。在当时,哈夫曼几乎是首个阐述如何设计异步顺序开关电路的学者,而这一理论后来也为计算机发展提供了重要逻辑支撑。

这篇论文的发布,不仅帮助他获得富兰克林研究所的Louis E. Levy Medal,也顺理成章让他获得留校任职资格,教授关于开关电路的课程。

在校期间,哈夫曼还提出一种革新的数学公式,可以在不丢失任何信息的情况下将一个二进制数序列转换成另一个二进制数序列,这项研究在当时密码学中发挥了重要作用,也为其谋得了一份重要职位。

时任贝尔实验室研究副总裁的William O. Baker将其招纳入了一个审查委员会,主要负责为国家安全局审查未来科技计划。Baker博士曾担任过艾森豪威尔、肯尼迪、约翰逊、尼克松和里根五位总统的科学顾问。

1967年已是正教授的霍夫曼选择离开MIT,加入加利福尼亚大学圣克鲁兹分校(UCSC),期间主导创立了计算机科学系,并参与学术课程开发工作,为之后计算机科学系发展奠定重要基础。

数学可以说是哈夫曼毕生追求之一,以至于后来在搞艺术时,也离不开数学。

70年代开始,哈夫曼对折纸产生浓厚兴趣,同时研究数学和折纸艺术,制作了上百件曲痕折纸作品,还专门发表论文分析曲痕折纸的数学性质,成为折纸数学领域的先驱人物。

回过头看,哈夫曼的一生赢得过无数荣誉与表彰,却从未为自己任何一项发明申请过专利。

最后,借用哈夫曼自己的一段话。

作为一名科学家和老师,我真的非常执着。如果我觉得自己还没有找到问题的最简单解决方法,我会非常不满意,这种不满会一直持续,直到我找到最佳方法为止。对我来说,这就是科学家的本质。

标签:

生活指南
  • 任天成:6.26黄金弱势未变今日是震荡反弹还是继续下跌呢?

    黄金今日开盘小幅跳空高开高走价格从19213跳空至1924附近回落19225一线

  • 涨停的股票能买吗现在

    本文内容是由小编为大家搜集关于涨停的股票能买吗,以及涨停的股票能买

  • 乡镇公务员2023时事政治模拟题每日一练(06.21)

    1 6月20日11时18分,我国在太原卫星发射中心使用()运载火箭,将试验二

  • 微资讯!看到杨贵妃的复原图,才明白李瑁为何拱手相让,李隆基却狠心赐死

    因为,有相当多的文献记录,是唐玄宗看着杨玉环非常漂亮,所以当场愣住

  • 云铝股份(000807.SZ)2022年度每10股派1.6元 股权登记日为6月29日

    智通财经APP讯,云铝股份(000807 SZ)发布公告,公司将实施2022年年度权

  • 科技与狠活!这些大国重器、高端智造亮相尼山|全球热头条

    世界互联网大会数字文明尼山对话将于6月25日-27日在山东济宁曲阜举办

  • 宁夏银川烧烤店燃气爆炸事故4名犯罪嫌疑人被刑拘-要闻

    (记者李佩珊)记者24日从相关部门获悉,宁夏银川烧烤店燃气爆炸事故4名

  • 环球即时:@重庆考生 今日下午2点起可查询高考成绩

    重庆日报讯(记者张凌漪)6月23日,市教育考试院发布消息,我市2023年

  • 广汽三菱祺智PHEV怎么样及雷克萨斯LC500h多少钱 环球速看料

    记得高中上学第一天,班主任就跟大家说,高中要做的一切就是指向高考,

  • 我变成了海龟txt下载(我变成了海龟)_天天滚动

    1、《慢火煮人鱼(生子)》BY花落轮流《龙皇妃》BY蓝刹。本文就为大家

  • 环球观点:诺基亚c503论坛(诺基亚c5 04)

    导读1、C5-04是联通定制机。2、仅此而已。3、参数功能方面都是一样的。

  • 债权人撤销债务纠纷律师费用是多少-焦点热文

    (一)不涉及财产关系的:2000元-30000元 件。上下浮动幅度:20%但收费额

  • 世界百事通!武夷山攻略两日游路线 武夷山攻略

    1、武夷山主景区2天就可以走完了,可以购买2日游的门票。2、2、建议选

  • 美国深海潜水器发生内爆5名乘员死亡|每日时讯

    美国海岸警卫队22日说,此前在考察“泰坦尼克”号邮轮残骸途中失踪

  • 流砂幻爱豆瓣_流沙幻爱_焦点要闻

    1、oppok9s好2、K9s的性能和电池容量都要优于K9,屏幕也更大一些。k9s

  • 人教版道德与法治五年级下册教案全册 人教版道德与法治五年级下册教案 全球信息

    1、新课程与教师综合文化素养(小学版)教师综合文化素养的提升,是实施

  • 民生
    • 全款购车后合格证多久可以拿到(全款结清处置车能买吗)_动态

    • 建筑人才市场职称评审(建筑人才市场)

    • 情书开头称呼写什么_情书开头

    • 感受长江壮阔与都市繁华 徒步“万里长江第一桥”成外地游客首选