科学网

 找回密码
  注册

tag 标签: 统计推理

相关帖子

版块 作者 回复/查看 最后发表

没有相关内容

相关日志

公布求解最大互信息和最大似然度的信道匹配算法—用以取代EM算法
热度 3 lcguang 2017-6-12 12:25
搜索最大似然度, 可见有33万篇文章: http://www.sciencedirect.com/science?_ob=ArticleListURL_method=list_ArticleListID=-1217372240_sort=r_st=13view=cmd5=32025f8bcf94febd17e33e7009f377cdsearchtype=a 搜索EM算法有8万多篇文章: http://www.sciencedirect.com/science?_ob=ArticleListURL_method=list_ArticleListID=-1217372349_sort=r_st=13view=cmd5=1c0dbe77532804b292213415558828cbsearchtype=a 最大互信息难以求解的, 所以Shannon用失真准则, 而不是互信息准则。 最大似然度——指香农信道没有确定时的最大平均对数似然度——也是难求的。 这两个难题应该说是信息论和统计理论中最顽固的堡垒。 两者只能用迭代方法求解。通常用牛顿法, 梯度法和EM算法。其中EM算法最具神秘性。 本文不是要在么庞大数子上增加一个1, 而是要重新评估以前的做法, 特别是EM算法! 本文提出新的算法是信道匹配算法——多数情况下3-5次就收敛。文中和EM算法做了比较,大多数情况下迭代次数降到1/3。还证明了前人的EM算法收敛证明完全错了。 新的算法是否简洁, 高效,易于理解, 详见最新文章: http://survivor99.com/lcg/CM.html 本来是想先投稿, 争取发表的, 但是一想到那么多人在最大互信息和最大似然度上耗费那么多宝贵时间,想到审稿之漫长, 辩解之麻烦, 我还是先公布算法吧! 语义信息方法历来遭遇主流歧视,因为要权威理解非常困难。这篇文章也是要向主流显示: 语义信息论是怎样powerful, 它可以解决经典方法难以解决的难题! 我有没有做到, 请看完理解再说! 欢迎批评!
个人分类: 信息的数学和哲学|5623 次阅读|7 个评论
《驯服偶然》译者前言
gl6866 2008-11-30 09:15
十多年前,我参加了中国科学院组织翻译李约瑟博士《中国科学技术史》的工作,在翻检文献过程中,见到李约瑟对黄仁宇先生关于明代的漕运这个专题研究的评价,李公说黄先生的研究是一切围着数字转。而眼下加拿大科学哲学家和科学史学家哈金的这本书便是一部关于数字的书。 黄仁宇先生曾颇有感慨地谈到中国传统的治国方式是间架性的设计,即不由它自身做主摸索而成,乃是由政治家鸟瞰的态度裁夺。这种间架性的设计被认为是超时代的政治早熟。正如李约瑟评价朱子时所说,在没有产生一个牛顿式的宇宙观之前,先已产生了一个爱因斯坦式的宇宙观。这种理念应用于社会政治方面,则出现这样的情况,一般政令上面冠冕堂皇,下面有名无实。结果则是中国的亿万军民不能在数字上管理。(《赫逊河畔谈中国历史》,三联书店,北京,1997年,第12?5页)换句话说,在黄先生看来,二十世纪之前中国最大的问题在于名与实之间没有成功地得到链接。 实际上,西方诸国在进入现代的过程中,并非一开始就能在数字上进行管理。这其中也有很漫长的过程。而这个过程,即名与实的链接过程,则构成本书的主要故事。中世纪晚期,随着文艺复兴运动的出现,宗教改革的胜利、民族国家形成过程中,西欧诸国也开始在数字上治理国家了。现代民族国家的观念肇始于意大利半岛的各城邦国家,如佛罗伦萨、威尼斯和米兰等,随着这些城邦国家在对外交往中逐渐形成了统一的政治实体,那些雄心勃勃的思想家和政治家便企图创造一种整体的民族性。这些观念的传播无疑对北方诸国产生了巨大的影响,然而,彻底意识到民族国家在本质上是以其统计学为特征的是德国的思想家和政治家。 科学技术的作用有两个方面,一方面使自然对象化;另一方面则使社会对象化。资产阶级登上政治舞台后,打出了民主的旗号,对于他们而言,民主绝不是什么生活方式,而是一种社会治理的方式。因而,相对于资产阶级的民主政治,便是一整套与之相适应的法治观念。他们下大力气使自然科学的思想、方法、成果在社会领域进行创造性的应用,取得了成功。制度上的的创设一方面适应了经济社会的发展,另一方面,正如哈金教授所言:对人和世界的支配不是更少了,而是控制更强了,原因是一种新的定律粉墨登场了。这便是我所谓的偶然被驯服的原因所在。 所谓对偶然的驯服,是指在自然和社会定律的支配下,偶然或不规则的事件显然已经得到了控制。世界不是越来越成为偶然的,而是大大相反。以往支配人们思想的决定论遭受了侵蚀,偶然的自主定律则得到发展。人性的思想被正常人的模型取而代之。始于十九世纪的这两种转变是同时发生的,而且相互激励。偶然是真实的,它使秩序脱离于混沌。在我们关于世界和人的观念中,非决定论的色彩越浓,控制力也就越大。这便是本书的思想核心所在。 几千年来的决定论思想何以遭受侵蚀?在哈金看来,是由于十九世纪末雪崩般的统计数字。人的多种行为,尤其是异常行为,如自杀、犯罪、游民、癫狂、卖淫、疾病之类,被列入官方的统计研究的范畴。通过研究发现,这些现象年复一年似乎具有惊人的规律。有关社会的统计定律便是从这种关于人的异常行为的研究中发现的。其目的又是什么呢?根据平均值和离中趋势的数据所形成的正常人的思想,开始实施若干社会工程,以便改造不合需求的社会阶层。正如优生学的创始人高尔顿于一百年前所说,概率定律的首要目的便是在最具野性的混乱之中以宁静和完全平淡的方式实施帝王式的统治。由此可见,决定论遭受侵蚀并不是无序和无知的肇始,而是恰恰相反。 马克思主义经典作家曾一针见血地指出,问题不在于解释世界,而在于改造世界。我们将看到,西方对社会的改造源于一种理念,即人们通过点查和分类可以改善(控制)有异常行为的亚人口群体。进一步的考察表明,并非任何数目字都能起这个作用。多数首次认识到的定律般的规律都与异常现象相关:自杀、犯罪、游民、疯狂、卖淫、疾病等。这一事实具有启发意义。现在人们通常说,在决策理论、运筹学、风险分析以及在更广一些但却专业不太强的统计推理领域,信息与控制是中立项。根据这个中立项,可以导出更一般的题目。点查需要分门别类,而出于统计的目的所定义出的新的人群是有重要意义的,因为在这种人以群分的方式中表达了我们对他们的看法,同时也可以了解到我们自身的各种可能的潜在性。 走进作者的世界,就好比走进一座博物馆,每一章便是由各种数字事实布置起来的展厅,沿着博物馆的长廊走下去,两厢的展厅向我们呈现出我们当前的概念组织成为可能的各种条件。一个领域是有关物理学非决定论的;另一个领域则是为社会控制的目的所开发的统计信息。哈金教授以福柯式的方法向我们展示了欧洲社会发生的那场持久的、全方位的革命。这便是今天称之为导致社会发生巨大变革的慨率性革命。这场革命绝非像法国大革命那样轰轰烈烈,甚至不易为世人察觉。主导这场革命的也不是什么大思想家,而是那些务实的官员和学者。正是他们的不懈努力,才使得西方社会呈现出今天这幅图景。 这本书是作者花费了十年心血写成的。在这本书中,文史哲、经法社,数理化、天地生被融于一炉,向我们展示出哈金教授渊博的学识。早在1975年,哈金教授便出版了《概率的突现有关概率、归纳和统计推理早期思想的哲学研究》(The Emergence of Probability -- A A Philosophical Study of Early Ideas About Probability, Induction and Statistical Inference) 一书,成为当时畅销的学术著作。《驯服偶然》也同样取得了巨大的成功,出版后不久便被Random House的Modern Library评为本世纪一百部用英语写成的最佳作品。目前哈金教授任教于加拿大多伦多大学科学技术哲学与科学史系。他长期以来从事科学哲学和科学史的研究与教学工作,在统计思想史领域是权威。 本书是一部专业性很强的科学哲学和科学史著作。译者绠短试汲,在翻译过程中深感力不从心。中央编译出版社王吉胜先生在全书翻译过程中始终给予热情的鼓励和及时的帮助,本书责任编辑王丽华同志耐心细致审读译稿,使译文大为增色。没有这些同志的辛勤劳作,本书是不会以现在这种形式同读者见面的。当然,翻译中的错误和不妥之处,仍是我个人的责任。尚望读者不吝赐教为感。
个人分类: 评论述评|2333 次阅读|0 个评论

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-7 02:36

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部