lasemedicine的个人博客分享 http://blog.sciencenet.cn/u/lasemedicine

博文

冗余度和信息

已有 6039 次阅读 2015-12-3 22:26 |系统分类:科普集锦|关键词:学者| 信息, 语言, 密码, 冗余度

   

   冗余度,在一个句子或一条消息中得到额外提示,从而使含义得到理解(即使消息残缺不全)。试着阅读下面的英文句子:

   J-st tr- t- r--d th-s s-nt-nc-

   If u cn rd th ad u cn gt btr jb & mo pa

   即使这句话的一部分被去掉,它的含义仍能保持不变。这就是冗余度的精髓所在。当我们去掉一个字符串中所有的冗余度,剩下的就是一个具体的、可以测量的、无法再压缩的核心。这就是信息:不可削减地坐落在每一个句子核心的那个东西。

   同样的一个文件,不管是文本、音频还是图片、视频,都可以根据一定的算法进行压缩。算法对信息和冗余度的关系体现得越透彻,文件压缩后所占的容量就越小。当然要以信息不会损失为前提才好比较。同样是无损音频格式,.flac比.wav格式占的空间要小很多。.mp3格式是比.flac格式小,但.mp3是有损压缩格式,“冗余量”的减小是靠损失信息得来的。

   冗余度是一种安全机制:是它,保证了消息能够到达,即使消息在传递的过程中受到一些损坏。隔空喊话,听话者有可能只能接收到只言片语,但只要喊话者有意加入足够的冗余度,听话者就可以把貌似支离破碎的语言片段拼接成一条有用的信息来。所有语言都具有这种内建安全网,这个网由句型、句子结构以及若干规则构成,并形成冗余度。我们学习一门语言的语法,句型,就是试图通过对冗余度的分析,得到句子的内核——信息。生活中,我们常说“这两个人很能聊得来”,其实很可能是他们的语言传播与接收“系统”有很强的相似和互通性,使得他们交流起来冗余度很低,信息传送的效率很高,说者轻松,听者愉快,很能聊得来。跟陌生人交流,我们用的语言就会偏保守一点。我们会假设“可能不很聊得来”,所以冗余度大一点,确保交流的顺畅。比如在每句话之前加一个“你好”,会拉近陌生人之间的距离。但熟人之间交流就不需要这么麻烦,可以省词缩句,快速进入主题。

   语言的规则,使我们能够从消息中把信息提取出来——这些规则为消息提供了冗余度,使我们可以破解密码。冗余度是安全密码的大敌,它增加了信息泄露的机会。密码编译者竭尽全力,想方设法藏匿信息中的冗余度。密码破译者不遗余力,千方百计开掘冗余度中的信息。信息和冗余度使密码学领域发生了革命性的变化,并改变了世界历史的进程。


   本文参考 美国作家 查尔斯塞费 所著 《解码宇宙 新信息科学看天地万物》






https://m.sciencenet.cn/blog-2938844-940880.html


下一篇:《上帝掷骰子吗?——量子物理史话》 书摘

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-23 16:35

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部