科学网

 找回密码
  注册
科学网 标签 回归 相关日志

tag 标签: 回归

相关日志

人类认知系统的演化与“科技认知-行为系统”(四)
lvnaiji 2020-8-30 11:11
吕乃基 代结束语:人类认知-行为系统演化的前景 科技认知-行为系统并不是人类终极的认知-行为系统,50年前兴起的编程+计算+学习+,与此相应的认知-行为系统正在成形和完善,其标志是人工智能+区块链。 新的认知-行为系统既沿袭科技认知-行为系统的发展,将其推向极致。一方面进一步走向抽象,编程加数字化,“计算”已经成为一种“主义”。原则上,区块链可以介入所有需要和有待约定的关系和过程,介入所有的“to”或“2”的两头或多头;凭籍人工智能,对于来无踪去无影这样的“棋感”加以条分缕析。最新研究认为 ,好奇心的核心是一种算法:哪种路径能以最短时间获得有价值的知识。 另一方面,新的认知-行为系统提供虚实难辨的场景,提供种种“增强”的体验,还配备有激励机制,让人沉浸于其中,欲罢不能。浮士德在梅菲斯特引导下最后的满足仿佛已经到来。 知行合一的趋势在人工智能领域尤为明显,脑科学与人工智能互相促进。 第五套认知-行为系统又呈现新的特点: 当人类越来越多的历史和现实成为大数据,谁是第五套认知-行为系统的主体,人工智能专家、码农、电脑、互联网,还是“互联网大脑” ?人工智能技术是否能够如同以往的科技黑箱那样,为没有受过教育的人所使用,又将如何使用 ?对于广大“吃瓜群众”来说,“豢养”的广度和深度是否有增无减? 第五套认知-行为系统方兴未艾,尚未成熟,对个人与人类社会的影响有待进一步观察和研究。 鲍捷所给出的认知系统的递进还有一个有趣的尺度:时间。50万年、5万年、5千年、5百年,第五套是50年前,这当然是约数。如果按这一节奏,5年前,或者近期,已经或正在酝酿第六套认知-行为系统。第六套认知-行为系统很可能以量子计算和量子通讯为基础,“塌缩”与“纠缠”或许是其中的关键词。 量子计算的一大特点是“遍历”,于瞬间在多种可能性中得出最佳方案。迄今为止,计算机语言的基础是“非此即彼”。量子计算的特点是“亦此亦彼”,如何为亦此亦彼编程,什么是量子计算机的“语言”? 眼下,5G刚登上舞台,人们已经开始谈论6G,甚至6G后。之后将不再沿虚拟通讯发展到7G,而是全面超越之,变革为以真实信号为主的“超代通讯”,即SG(Super Generation)。SG超代通讯的信息处理和通讯内容是本真信息(True Information),而不再是模拟或数字代码信息。人类直接能够在本真地互动中处理与现实世界的关系。与此同时,继续深化“虚拟信息思维”以推进思维效率。人类可以视情况选择真实信号通讯和虚拟信号通讯两种之一 。 “量子-SG认知-行为系统”(姑且这般称呼)既是人类社会认知系统的最高阶段,看来同时又更加贴近50万年前哺乳动物的认知系统。这就提示,人类认知系统的演化并非线性,“哺乳动物认知系统”并非原始低等,其中还有大量未解之谜,以及有待发掘的在认知-行为上的优势。困扰人工智能专家的“莫拉维克悖论”,实际上就是哺乳动物在认知-行为上的优势之一。人类认知系统的回归将揭示莫拉维克悖论。 谁会是第六套认知系统,“量子-SG认知-行为系统”的主体?是马斯克正在进行的某种“脑机链接”的产物吗? 站在六套认知-行为系统50万年演化的视野,科技认知-行为系统处于其中的转折点,在进一步抽象的同时,开始朝人类“低阶”的认知-行为系统回归。 在回归临近起点之时,突破也即将来临。 https://tech.sina.com.cn/d/v/2018-09-02/doc-ihiixzkm3464252.shtml 刘锋, https://blog.csdn.net/zkyliufeng 图灵奖得主 Raj Reddy :不存在通用 AI ,但未来会出现超智能 http://baijiahao.baidu.com/s?id=1602769269779695829wfr=spiderfor=pc https://mp.weixin.qq.com/s/l8tjDDXSJq0U8_LkidvHaw
个人分类: 科技|2789 次阅读|0 个评论
R语言笔记——ggplot2画回归曲线,添加方程或P值
Hunshandake 2020-1-2 15:35
library(ggplot2) library(dplyr) # 加载 dplyr 包 library(ggpmisc) # 加载 ggpmisc 包 library(RColorBrewer) library(ggpubr) # 载入数据,计算均值和 se caomuxi-read.csv(E:/R/Rfiles/data.csv) windowsFonts(SH = windowsFont(Times New Roman)) #第一种方案,做点状图,加回归线,添加回归方程和R 2 a- ggplot(data=data,aes(x=Fert, y=Hight))+ geom_point(aes(color=treatment),size = 3)+ # 设置分组颜色和点的大小 geom_smooth(method = lm,linetype=3,se=FALSE,colour=black,span=0.8)+ # 添加回归曲线, se 取消置信空间, linetype 设置线型 stat_poly_eq(aes(label = paste(..eq.label.., ..adj.rr.label.., sep = '~~~~')), formula = y ~ x, parse = T,family = SH) + # 添加回归方程和 R 2 scale_x_continuous()+ scale_y_continuous(expand = c(0, 0),# 设定 x 轴和 y 轴的交叉点 name =Height (cm),# 设定 y 轴标题 breaks=seq(0,50,10),# 设定 Y 轴的数据间隔 limits = c(10,50) # 设定 Y 轴的数据上下限 )+ scale_color_brewer(palette = YlOrRd)+ theme() a 出图如下: #第二种方案,做点状图,加回归线,添加R 2 和P值 a- ggplot(data=data,aes(x=Fert, y=Hight))+ geom_point(aes(color=treatment),size = 3)+ # 设置分组颜色和点的大小 geom_smooth(method = lm,linetype=3,se=FALSE,colour=black,span=0.8)+ # 添加回归曲线, se 取消置信空间, linetype 设置线型 stat_fit_glance(method = 'lm', method.args = list(formula = y ~ x), mapping = aes(label = sprintf('R^2~=~%.3f~~italic(P)~=~%.2g', stat(r.squared), stat(p.value))), parse = TRUE,label.x = 0.95,label.y = 0.95,family = SH)+ # 方案 2 ,仅添加 R 2 和 P 值, label.x 和 label.y 设置文字位置。 scale_x_continuous()+ scale_y_continuous(expand = c(0, 0),# 设定 x 轴和 y 轴的交叉点 name =Height (cm),# 设定 y 轴标题 breaks=seq(0,50,10),# 设定 Y 轴的数据间隔 limits = c(10,50) # 设定 Y 轴的数据上下限 )+ scale_color_brewer(palette = YlOrRd)+ theme() a 出图如下:
个人分类: 软件使用|23043 次阅读|0 个评论
张海霞︱致IEEE主席:赞学术界回归常识
热度 18 张海霞 2019-6-3 11:59
张海霞︱致 IEEE 主席:赞学术界回归常识 2019 年 6 月 3 日 【题记】今天上午收到 IEEE 主席 José M. F. Moura 的来信 “IEEE 解除对编辑和同行评审活动的限制 ” ,赞赏 IEEE 的勇气,很高兴学术界回归常识。谢谢所有朋友的关心和支持,今后我会继续支持 IEEE 的各项工作,致力于推动学术的独立和自由发展,很荣幸和骄傲与你们同行! Dear Prof. José M. F. Moura, Cc to Prof. Toshio Fukuta, Prof. Lombardi Fabrizio, and Prof. Gianluca Piazza, I am so glad to get your email with subject “A message from the IEEE President: IEEE Lifts Restrictions on Editorial and Peer Review Activities”. This is the best news I ever heard from May 29th after I send out my open letters. Thanks for all your efforts to Lift Restrictions on Editorial and Peer Review Activities from IEEE under this special time period with outside pressure and insider resistance. This is a moment, we, Academic community, should be proud for our fight to keep the Independence and Freedom of Academic. As I mentioned in my statement, I will come back to IEEE NANO and IEEE JEMS editorial board until one day it comes back to our common professional integrity. Now, it is time to re-join the team and contribute my efforts with enthusiasm as usual. Let’s work together to make IEEE, an international academic community, great again. Haixia Zhang, Professor, Peking University June 3rd, 2019 附: IEEE 主席的来信 Dear Haixia Zhang, Last week the U.S. government issued export controls on Huawei Technologies Ltd and 68 of its affiliated companies. In response, IEEE issued guidance on actions required to comply with these controls. We acted promptly because we wanted to protect our volunteers and members from potential legal risk that could have involved significant penalties. As a non-political, not-for-profit organization registered in New York, IEEE must comply with its legal obligations under the laws of the United States and other jurisdictions. We also engaged the U.S. government to seek clarification on the extent to which these export control restrictions were applicable to IEEE activities.I am pleased to report that this engagement was successful and we have revised our guidance to remove any restriction on the participation of the employees of these companies as editors or peer reviewers in the IEEE publication process. To reemphasize, all IEEE members can continue to participate in the open and public activities of the IEEE, including our scientific and technical publications.Many members expressed apprehension with respect to IEEE’s initial guidance and its impact on editors and peer reviewers based on their employer affiliation. I understand the concern this raised for many of you and appreciate the feedback that IEEE leaders and I received.As an international organization operating in 160 countries, IEEE supports the free and open exchange of scholarly and academic work and the global advancement of science and technology. IEEE is committed to enabling an environment of international cooperation and the sharing of our members’ wealth of knowledge to drive innovation.We appreciate the patience of our members and volunteers as we worked through a legally complex situation. If you have any comments, questions, or concerns, please contact me atpresident@ieee.org.For more information, please visit www.ieee.org . Thank you for supporting IEEE in our mission to advance technology for humanity. José M. F. Moura2019 IEEE President and CEO
个人分类: 国际交流|10672 次阅读|19 个评论
《生物统计学》教材提纲——试验设计数据分析、计量经济学与流行病学
dzrdez 2019-3-23 10:16
《生物统计学》教材提纲 outline of Biostatistics 一,试验设计 Ⅰ Experiment design 二,采集和记录数据 Ⅱ Collection and recording of data 三,单变量分析 Ⅲ Univariate 1,估计 1 Estimate 2,比较 2 Comparison 3,相关 3 Correlation 4,回归 4 Regression 四,多变量分析 Ⅳ Multivariate 1,降维 Reduction 主成分分析 Principle component analysis, PCA 偏最小二乘 Partial least square, PLS 正交化偏最小二乘 Orthogonal partial least square, OPLS 2,聚类 Clustet 3,独立分析 Indepent compent analysis 4,多元线性回归 Multivariate linear regression 5,联立方程 Equation group 五,非参数分析 Ⅴ Nonparameter 1,率的检验 Test of ratio 2,逻辑斯谛回归 Logistic 3,生存分析 Survival analysis 六,非线性 Ⅵ Nonlinear 1,混沌动力学 Chaotic dynamics 2,复杂性与自组织 Complicity and self-organization 【正文待续】To be continued.
2333 次阅读|0 个评论
请教⑴:因变量与次要影响因子之间的拟合结果是怎样的?
热度 1 zhgatcl 2018-6-9 21:28
因变量与次要影响因子之间的拟合结果是怎样的? 假设某个因变量 Y 与三个自变量 X 1 、 X 2 、 X 3 的 三元线性拟合公式 高度正相关(相关系数 R 大于 90% ),并且知道自变量 X 1 是 主要影响因子(权重大约占 60%~70% ) ,其它两个自变量 X 2 、 X 3 都是 次要影响因子 (请特别注意 主次有别! ),那么,采用 Excel 多元回归现成的命令,由电脑进行因变量 Y 与次要影响因子 X 2 或者 X 3 的 一元线性回归分析 ,得到的结果是不是相关判定系数 R 2 不太理想而 Significance F 比较理想?其理由是 X 2 和 X 3 的的确确是因变量 Y 的影响因子,但不是主要影响因子。 如果以上判断(观点)不完全正确,因变量 Y 与次要影响因子 X 2 或者 X 3 的 一元线性拟合 的相关判定系数 R 2 和 Significance F 都有比较理想的可能,那需要什么条件?也就是说,什么条件下因变量与次要影响因子一元拟合的效果比较好?什么条件下因变量与次要影响因子一元拟合的效果不好? 由电脑进行因变量 Y 与两个次要影响因子 X 2 和 X 3 的 二元线性回归分析 ,相关判定系数 R 2 有可能比较理想吗?两个自变量的 P-value 有可能都比较理想吗( P-value 越小越好、一般要求小于 0.05 )?拟合得到的结果是不是相关判定系数 R 2 不理想、两个自变量或者其中一个自变量的 P-value 也不理想?其理由是自变量 X 2 和 X 3 都是次要影响因子,二元线性回归拟合公式中没有主要影响因子。 (请专家特别是数理统计专家、气象专家、水利专家赐教)
个人分类: 求教|4038 次阅读|3 个评论
人到中年
热度 1 张海霞 2017-2-6 18:49
周末跟先生去遛车的时候,车上的音响放的是伍佰的《浪人情歌》: “我会擦去我不小心滴下的泪水,还会装作一切都无所谓……” 不知道为什么我竟然忍不住笑了, 这熟悉的旋律和以前听着会流泪的歌词, 怎么突然之间变得很搞笑了呢?看看旁边一脸木然的先生,我忽然释然了:原来不知不觉间我们已经人到中年,轰轰烈烈的爱情早已变成指间细水长流一般的亲情,哪里还会为有那些不小心滴下的泪水啊…… 记得有次照镜子,我对自己的形象很不满意,跟旁边洗洗刷刷的老妈抱怨:“妈,你看我都成中年妇女啦!”老妈很是幽默:“你早就是啦!只是你自己不觉得罢了。”真的要是感谢老妈长期以来的“人间不拆”之恩:真相大家都看见了,只是不愿意道破天机而已。 看看周围,确实早已满是人到中年的迹象了:孩子个头都比自己高了,啥事儿也不用管了,原本利利索索的父母现在也已经逐渐老迈了,先生的头发已经开始发白了,每次照镜子只是自欺欺人地说“今天状态不太好”……出差的时候连续熬夜已经开始吃不消,跟孩子们出去玩,他们说的很多话已经跟不上,更不好意思的是:爬高上低的时候他们总是伸出手拉我:“老师,这里不好走,我扶您一下吧!”这什么情况?我啥时候不再是那个事事都身手敏捷的排头兵啦?!每次在外面开会,周围前来打招呼的青年才俊:“你这不是以前读谁谁研究生的那个吗?”“老师,我已经工作五年了……”“真的吗?我觉得你还没毕业呢 …… ” 你还说你不老,行吗? 中年,真的是在不知不觉中到来了,虽然我感觉自己还很年轻,可是我已经是上有老、下有小的中年人啦,已经 很久 不曾流露“爱上层楼”的少年急切,就连“嘈嘈切切错杂弹”的青涩也开始逐渐消减,但也远远体会不到“欲语泪先流”的凄凉和 “ 天凉好个秋”的禅意解脱,似乎还日日无望地挣扎在“苟苟且且”之中 ……所幸的是 胸中多了一些“大珠小珠”的散乱积淀,口袋中残留下不至于窘迫到无处藏身的也许存款,在多年的左冲右突和撞墙之后开始明白自己的所长与所短,仿佛也窥到了某些机缘可又影影绰绰看不到它的真颜 …… 老天,我们究竟如何才能让这段恍恍惚惚的日子变成有些许滋味又能带些起承转合机遇的时光呢?!有幸读到 野夫的新年致 辞《中年身世似逃禅》,特转给各位人到中年的朋友:期待大家能够如他一样 不妨放手把余下的不多心力和体力去 发展那些真正喜欢的志趣 ,成就真正的自己。 野夫。 1962 年出生于湖北,著名作家,出版人。 中年身世似逃禅 《 中国新闻周刊》特约撰稿|野夫 本文首发于 2017 年 1 月 23 日总第 790 期《中国新闻周刊》 一 岁暮天寒,一个人郁郁独行,忽然与中年狭路相逢。 彼此冷冷打量一番,各自倒抽一口寒气。也许久厌兵戈,一时英雄气短,按住腰间那柄祖传的岁月杀猪刀,实在不欲拔出来恶战一场。 这样的对视终觉尴尬,一方不肯让路,一方无心搏杀。两厢捉对,行者盘算着绕道而行。只是四面山河,肃然如桶,如埋伏已久之陷阱,竟是无路可逃。 天风凛冽,但见中年兀然霸道在那,满手暗器,嘿然怪笑地候着你的迎战。这一场蓄谋既久,事先张扬的暗算,任谁也插翅难飞。 惊惶之余,回想天下所有的遭遇,或者都是成就你今生的艳遇,忽然就有了几分气定神闲。虽千万人,横尸于此;虽千万人,吾往矣。设若一个区区中年,你竟战也不过,那接下来还将遭逢的余生,你与走肉何异? 一念及此,遂如小说家言 —— 老夫且硬生生迎了上去 …… 二 何谓中年?何日为始,何时为终? 古代的时间很慢,生命很短,却也显得漫长。四十就要不惑于人间绚烂,似乎中年便来得很早。金圣叹说:人生三十未娶则不得再娶,四十未仕则不得再仕。意思大抵是,三四十岁之后,所有的努力皆可放弃,对生活不必再存奢望。故而关汉卿要在杂剧里叹唱 —— 人到中年万事休。一个休字,真是道尽了中年的寒凉。 网上说,联合国的卫生组织,迩来重新划定了青、中、老的界限,将中年的边际,几乎无限拉长到一个古稀的年段。这算是对迟熟社会的一个奖赏,也可谓对这个难以成人的 “ 类人孩 ” 时代的某种戏谑。 窃以为,中年绝非一个年轮,不是钟表刻度上的一段时空。 中年是一种心态,抑或是心智成熟的一个纬度。 王羲之说,中年以来,伤于哀乐。与亲友别,辄作数日恶。这里的意思非常明白,人在青春里,万事唯知贪欢。对于岁月之逝,原是真无哀愁。那种客舟听雨的怅惘,从来未曾真懂。只有到了中年,才会敏感于人世苦乐;哪怕是与亲友小别,也会数日心情难过。 三 我于 44 岁如云而南,寄居苍洱之间读书饮酒,便有近乎于垂老投荒的感觉。那时古镇萧条,来的也多是盛世零落之人。翻检旧作,找出 “ 中年身世似逃禅,面壁澄怀学闭关 ”—— 那真是当时的情状。 中国旧式读书人,向有 “ 据于儒、依于老、逃于禅 ” 的传统。大意是说,最初以儒家救世情怀为立身之据,后来报国无门,惶惶如丧家之犬,只好以老庄之高蹈避世思想相依为命。然而老庄原非真正清静无为之人,若辈皆有自己的理想国,只是不屑于与此浊世对话而已。于是,最后只好逃入禅门,息影于佛前青灯下,在禅的一花五叶之间,饮茶听钟,出离愤怒,也不立文字。偶然兴起立下的,可做偈诵,可做灯传,亦可刨土添薪,化作舍利一如灰烬。 李叔同 39 岁祝发入山,转身为弘一法师,算是中年悟道。而更多的人,在这样的年龄,还在酒色猖狂的日子里浪掷青春。 董桥先生认为,中年是只会感慨不会感动的年龄,只有哀愁没有悲怒的年龄。这也许是他的独特体悟 。在我看来,中年情味陈窖酒,虽然没了初出蒸锅的火气,却有倍加沉郁的醉意。 不悲则已,悲则彻骨;轻易不怒,怒必伤人。 四 我从中年开始告别喧嚣浮躁的京城商业生活,蜗居于一个小村检点半生。那时已经非常拮据了,只能去下关的一个旧货市场,买回一车旧家具,勉强维持日常生活。中年人并不意味着对自己完全具备信心,但是对如何应付人间生存,一般不会像年轻人那么仓皇。 我的中年已然饱历沉浮荣辱,对于贫富贵贱算是基本看淡。 如果一个人到了中年,还没有活出自己的方向感,那他注定一生狼奔豕突,永远在焦虑中拼搏奔波。 我那时已经非常明确只身南来的活法 —— 就是写作。在中国,一个人要想凭借写作,且不依赖作协之类体制,而能较为优裕地生活的,其实寥寥可数。 我并不认为我可以卖文为生,但是,我彻底清醒地认识到 —— 我应该写了。写作是我的存在方式,除此之外,我将什么都不是。如果我没有将我所经历的一切记录于案,历史也必将错过对一些罪恶的指证。 也就是说,我在度过了大半生的孟浪狂躁之后,忽然在中年沉静下来。 那一年,我像获得了某种天启,我必须远离那个浮华且危险的都城。 当我背着背篓在乡村集市买菜做饭,在农家小灶沽酒买醉 —— 这些新鲜出炉的纯良土酿,点滴滋润着我开始很接地气的生活。我知道,我赢了,我终于找到了我最想要的日子。 五 很多时候,都是雨打梨花深闭门地活着。院子里手植的梨树石榴,一白一红,轮番点染着中年人的枯寂。邻人做了好菜,必是要送一碗来分享。自家开了新酒,也总要隔篱呼取。夜雨楼头,英雄美人偶来啸聚;尺八呜咽声中,不时还能唤出几行清泪。 天气晴好之日,独自会背一袋米,提一桶油,去苍山古寺聊做供养。那时的净空法师不似今日之忙,多在庭中金桂之下,泡一壶陈年老普洱,与我负暄闲话。他是武僧出身,腕上缠着几十斤重的熟铜念珠,斟酌之间,滴水不漏。 无为寺的山规甚严,一直不让用电。当年那些习武的僧童,而今都云游远方了。和尚见我,依旧还要留下用斋。每饭前,必同唱佛号;先退席者,必挨座行礼。这样的古风,仿佛还是虚云老和尚时代。想起虚云上师于江山鼎革时,义不赴京叩阙 —— 自古法王不拜世王 —— 这是怎样的磊落耿介。这样的法脉和道统,可惜只今余几? 古寺复建了药师殿,唤我为这山河留一点词句。我为正门撰联曰: 十二大愿足济世,有师为证;三千红尘除修心,无药可医。 再为侧门撰联云:良言如良药,具三聚净戒;心法即佛法,度一切有情。 这些话,年轻时写不来。看似中年后才有的证悟。至今在那殿门前挂着,老了再去看,是否会汗颜,却是未知。 六 被名山大水拥着的中年,似乎该有一些名门正派的贵气。该说的话,从未三缄其口。该做的事,向来一意孤行。 这是一个是非正邪极易混淆的时代,举目乌烟瘴气,只能重建君子心中那个道义江湖。 一入江湖岁月催,鬓已星星也。这都是古话,道的也是千古炎凉。江湖子弟江湖老,活的正是这样一点骨血。想当年青春许国,揖别了皂隶生涯;几十年风刀霜剑地在俗世突围,要的也就是这样的云水营生,自由西东。 一日,入魏宝山长春洞借宿,几百年的老道观,傲岸而寂然。逍遥道长与龚道士和一个火工道人,三人在此深林枯涧边,孤守一脉道法。夜来月下,搬出桂花私酿,与我等俗人痛饮。醉罢吹箫弹琴,仙乐飘飘;再于空庭踏罡步斗,打出另一番迥异中原的太极。这样的浮生闲日,何等快活逍遥。 道观香火寥落,不敷日用。道士须躬耕荒野,聊供盘飧。其处远离人烟,山冷水寒。询之:何以选择如此生涯?答曰:祖宗的衣钵,总会要人守着在。 虽然云山相隔,我辈守着的,亦是另一种祖宗家法。古语谓盛世拜佛,末世访道。 至于书生,千百年来,也就图个在治乱之间,维系那一脉文化江山,以免真正的亡了天下。 七 南迁十载,生年过半。海内外出书十余册,结缘天下同道上百万,我算是对得起我的中年。尽管生活多如黄遵宪诗云:中年岁月苦风飘,强半光阴客里抛。但这样的光阴,自问尚未虚掷。 方今之世,看着快似要到真正的一元复始之际了。我辈拼命也要从中年活到老年那里去的唯一兴趣,正是想要见证我们平生努力的这一切,该怎样在未来散枝开花。 朋辈勉之曰:该行的路我们已经行过了,该打的仗我们已经打过了。我曾过眼的天地烟云,我曾亲炙的当世贤哲,我曾结交的美人英雄,也许是他三世也不能遭逢的幸运。 十年前的大年三十上午,我路过喜州古镇,看见一个少女还在寒风中独守小摊,零售著名的喜州粑粑。我问她为什么还不回家去团年?她说她在昆明上大学,平日都是妈妈卖粑粑供她。她放假回来才能帮一下妈妈,只等这些粑粑卖完了,她就回去团年。那一刻,我忽然背身拭泪。我买完了她所有的几十个粑粑,对她说:你是好孩子,快回去吃年饭吧。 她端着空了的簸箕,对我躬身一揖说:叔叔,你是善良人,会有善报的。 这个白族少女的话,我视为对我中年的最高奖掖。我一直深怀善意地行走于大地上,背负欺凌侮辱,也背负着无数真善美的目光。正是这些弱小者的鼓励,使得我辈行走在中年的路上,走得还算很有力量。 (摘自《中国新闻杂志》)
个人分类: 生活点滴|5568 次阅读|1 个评论
机器视觉中的非线性最小二乘法
wanglin193 2016-9-8 19:46
pdf版下载: 机器视觉中的非线性最小二乘法(王琳).pdf 本篇笔记分两部分: 一:非线性最小二 乘( NLS) 问 题 Jacobian 矩阵J 计算 二:非线性最小 二乘( NLS) 下降 矩阵的快速学习方法 一 . 梯度下降法以及 Jacobian 矩阵计算 在 2010 年的 关于L-K和 AAM 的博客 里提到,模板 匹配公式的一阶泰勒展开 ΔT=J* Δp , J 是用于梯度下降的 Jacobian 矩阵 ,是高维矢量函数值 T=f(p) 相对与参数矢量 p 变化时的增量 ( 导数 ) 。 如果 p 是 n 维矢量, T 是 M 维矢量,则 J 是一个 的矩阵。 J 在 (i,j) 处的元素值是 (ə T i /əp j ) 。 对模板匹配问题,假设矢量ΔT是图像Patch和模板的差,Δp是模板匹配每次迭代的参数增量,模板匹配过程就是根据ΔT求Δp的过程: Δp =( J T J ) -1 J T ΔT 其中 J T J 是 高斯牛顿法中的海塞矩阵H = J T J 。因为 H 并不总是可逆,所以 Δ p =(H+λI) -1 J T Δ T 关于 λ 的说明: ( 无约束 ) 梯度下降法求函数最小化问题时, λ 的增加,减弱了海塞矩阵 H 的影响, λ 从 0 到正方向的递增过程对应了梯度下降法从 牛顿法 到 最速下降法 的切换。优化过程中根据目标函数的结果实时调整 λ 值的方法即是所谓 Levenberg-Marquardt 法 。 λ 的另外一个作用是可以限制回归结果ΔP的幅值,称为 Ridge regression。 所以求解模板匹配方法要在每步迭代时计算当前位置的梯度矩阵 J ,也就是估计输入图像(或模版图像)在参数变化时对应的变化量。 J 的计算可以使用解析法和数值法: 1. 解析法 :如果模板的几何变形可以用显式的公式来表达, 比如 Lucas-kanade ( L-K ) 方法中图像 Patch 的变形可以用 2 个参数的位移, 6 个参数的仿射变换或 8 个参数透射变换 Homography 来表达。 ə T i /əp j 可以用链式法则表示成图像的梯度和几何变化的内积的形式 ə T i /əp j =ə T i /əW,əW/əp; 再如 AAM revisited 文章介绍的 face alignment 方法,二维人脸特征点经过三角剖分形成多个三角面片,人脸这个非刚体变形模板可以用对应三角形的仿射变换来表达。 2.数值法: 如果是几何参数和模板的几何对应关系是非线性的 , 比如机器视觉的成像投影函数是非线性的,再如图像模板可能不是简单地用图像的灰度矢量来表示的,而是用高级的图像冗余特征如梯度、 Gabor 小波或者 SIFT/HOG 等表达,这些高维的表达方式非常不适合计算梯度。数值法求 J 是在对当前每个参数 pj 增加一个小的扰动量 (Purterbation) Δpj ,计算因此产生的增量 ΔTi 和 Δpj 的比值: ΔTi/Δpj 。因为 P 的每个分量是单独计算的,假设 pj 彼此之间是相互独立的,则矩阵 J 的列之间的相关性应该比较小。 另外,仅仅是为了提高 J 的鲁棒性,也可以用数值法计算,比如在上述解析法光流中求 J 需要计算图像或模板的梯度,其中就有很多变化,常规的 Sobel 算子只能考虑 3 × 3 邻域,必然受图像噪声的影响,此时可以考虑使用多尺寸模板度卷积的均值。再如 Tim Cootes 2001 年最初发表的 AAM 方法,计算人脸图像相对于人脸形状参数变化的 J 时,就是使用多次扰动结果的均值进行计算。 可以使用梯度下降法求解的非线性最小二乘问题: (1) L-K 方法 image registration 和 AAM 人脸对齐 :根据输入图像和模板 ( 或子空间模型 ) 的差,推出形状参数的变化。为了减少计算量, Jacobian 矩阵 J 和海塞矩阵 H 不是在图像 I 上而是在模板 T( 对于 AAM 是人脸训练样本的平均 Appearence A0 处 ) 上进行计算的。第 k 次迭代时,根据参数 Pk-1 把输入图像 warp 到模板 T 附近(对于 AAM 是利用刚性参数和 PCA 形状参数到输入图像上采样,填充模板图像位置的像素值),然后利用 warp 后的图像和模板的差计算得到 Δ pk 并 更新形状参数 Pk = Pk-1+ Δ pk ( 有时是矩阵乘法)。 ( 就是 所谓 Inverse Composition ? ) 。文章 Lucas-kanade20 years on: A unifying framework 就是最初把 L-K 方法和 AAM 统一到模板匹配的框架下的。 (2) 根据已知 3D 物体的空间结构和对应的一个 2D 图像投影估计 3D 物体的姿态 ( OpenCV 的 solvePnP () ): Pose 矩阵 有 6 个自由度,该问题是有 6 个参数的梯度下降问题。误差函数优化的目标是使估计的投影点和实际的投影点之间的距离最小。一个典型的应用是根据 Face Alignment 的 2D 特征点估计 3D 人脸模型的姿态。 (3) 机器视觉的光束平差 (Bundle Adjustment) : 根据 3D 空间物体 (通常是根据图像特征点匹配恢复出来的稀疏点云) 的多张 2D 图像上的投影点 P 2d , 同时计算每个摄像机的 6 自由度的 Pose 、所有 3D 空间点的坐标 P 3d =(x,y,z) T ,以及每个图像的摄像机内参 K (以及非线性的畸变参数)。 2D 图像 i 上投影的匹配误差是 3D 重建的投影点和 2D 观察点之间的距离: D ist i =|P 2d -K* *P 3d |, 所有图像上的匹配误差最小化 minE = min sum(Dist i ) 。 Bundle Adjustment 在张正友的相机标定方法中用于估计相机内参和畸变参数,标定棋盘上的点的空间位置和相机姿态作为副产品,也可以同时得到。通过已知内参的单目相机实时估计相机姿态 和三维点云坐标的算法叫做 SfM 或 SLAM 。如果摄像机是变焦的,原理上也能实时计算出相机内参,称为相机自标定。 (4) 两个 RGBD 图像(带颜色的深度图)配准的变换矩阵 ( ICP 算法) :用于计算 RGBD Odometry。可参考 。刚体配准需要 6 个参数,把一个深度图像形成的点云投影到另外一个深度图像 ( 可视为模板 ) 上进行配准。匹配的误差是两个 RGBD 的 RGB 及深度 Z 的差(也可以是 3D 点云坐标 XYZ 的距离)。另外,也有利用深度图像的 TSDF 体数据进行等值面配准的方法。 Matlab 里有求解非线性最小二乘问题的函数 X=lsqnomlin(myfun,X0,LB,UB,options) ,特别好用。只要定义好表达矢量差的函数 myfun() ,以及给定初值 X0 ,设置 options 等参数(比如设置是否使用 L-M 算法等),程序会自动计算 Jacobian 求出最优解 X 。以 CameraCalibration 为例, myfun() 中只要定义好所有 3D-2D 投影和检测到的 2D 点集的误差矢量,并且把所有待定参数,包括 n 个相机的 K 和 pose 、 m 个 3D 点坐标的初始值连接成参数矢量 X0 ,送进优化函数,返回的优化结果 X 再解码成对应参数。实际上初始参数选择比较随意,甚至不需要太精确的线性解 ( 张正友的文章中的 3.1 Close-formsolution 一节 ) 步骤就能收敛到精确解。也有许多基于 C++ 的开源库能很好地求解 NLS 问题,比如 Eigen 库中就有函数能够完成类似 lsqnomlin() 的功能。还有专门求解 BA 问题的开源库。 二 . 通过学习的方法计算下降矩阵 D 其实就是待定系数法,或者 看成 拟合超平面 的回归问题。 直接求解下面式子中的 D Δ p = D * Δ T 在梯度下降过程的当前位置通过给 p 加一组扰动采样得到对应的 Δ T 样本。假设样本个数为 m ,参数 P 是 np 维, T 是 nt 维的。则上式的矩阵维度是 = Δ p 和 Δ t 的采样方法和上面提到的估计 J 的数值法类似,不同的是:样本采样除了希望相互独立外 ( 高维空间中的采样:蒙特卡洛法? ) 。 m 的个数也可以远远大于参数 p 的维度 np 。 D 的计算: D = Δ p* Δ T T *( Δ T* Δ T T ) -1 其中 ( Δ T* Δ T T ) 是 维的矩阵,如果图像 patch T 的每个像素是由 HOG 或 SIFT 等特征表达的,比如图像 Patch 的 size 是 32*32 ,每个 pixel 位置的 HOG 特征是 128 维的, T 就是 nt=32*32*128=131072 维矢量,这样实时计算 ( Δ T* Δ T T ) 的逆矩阵时的计算量很大。解决的方法: (1).SVD法或PCA 降维,比如在 CVPR2013 SDM 文章中使用 PCA 对样本进行降维, 最终的特征矢量 T 是乘以一个降维矩阵的结果 。 (2).梯度下降法迭代求解,D(t) = D(t-1) + η* (- ə E /əD ),E是拟合残差,η是学习率 。这是神经网络用于更新连接权重的常用方法,它的好处在于可以支持对D矩阵的on-line学习,即每次只使用少量(mini-batch)甚至单个的训练样本对D进行更新。相当于一个使用线性激活函数且只有一层的神经网,适合于内存受限的场合 。 (3). 参考“ Online Learning of Linear Predictors for Real - Time Trackin g ”,把 对 维矩阵求逆的过程转化为对 矩阵求逆的过程(通常ntnp)。具体见下图 ( 其中模板 Homography 变形 np=8) : 通过学习解决 非线性最小二乘问题: (1) 模板匹配 : 可以参考 Hyperplane approximation fortemplate matching ,它就是用学习的方法估计下降矩阵的。 Δ p=D Δ T 被描述成一组超平面,求 D 的过程变成拟合超平面的过程。 (2) Face Alignment: 参见 SDM 论文。下降矩阵 D( 论文中的 R) 引导初始形状收敛到手工标定的训练样本形状,每次迭代在新位置计算 J 和 H 等过程替换为可以事先训练的回归过程。传统 ASM/AAM 方法只在平均形状处训练一个 D 矩阵,而 SDM 则训练出一个回归矩阵的序列,这样看 SDM 的训练过程好像得到了更多的信息。实际上传统 AAM 也在不同的图像尺度上训练多个 D , SDM 则在同一尺度上训练(每个特征点计算 HOG 的图像 Patch 是 32*32 )。传统 AAM 的形状用 PCA 参数表达,而 SDM 中的人脸变形参数直接使用形状坐标的 2D 偏移。 (3) 其它: 参考 SDM 作者的后续期刊文章 ,从文章名字就能看出,作者试图用学习下降矩阵的方法解决刚体跟踪, Face Alignment 和 3D 姿态问题。它的末尾结论部分提到对于有多个局部最小值的 NLS 求解可以把解空间进行划分,求一组回归矩阵的序列 {R} 就是后来的 GlobalSDM 方法。 参考的文章: . Active Appearance Models Revisited. Iain Matthews and Simon Baker. CMU-RI-TR-03-02 . Lucas-kanade 20 years on: A unifying framework. Baker, S., Matthews,I. IJCV (2004) . Active Appearance Model. Tim Cootes 2001 .Real-Time Visual Odometry from Dense RGB-D Images. Frank SteinbrückerJürgen Sturm Daniel Cremers . Hyperplaneapproximation for template matching. FreÂde ric Jurie and Michel Dhome. PAMI (2002) .Online Learning of Linear Predictors for Real-Time Tracking. Stefan Holzer1, MarcPollefeys2, Slobodan Ilic1, David Tan1, and Nassir Navab. ECCV2012 .Supervised Descent Method for Solving Nonlinear Least Squares Problems in Computer Vision
个人分类: ASM/AAM|8488 次阅读|0 个评论
[建议] 《科学网》10年:回顾、展望与“寻找前十”
热度 2 zlyang 2016-7-3 10:52
《 科学网 》10年: 回顾、展望 与“ 寻找前十 ” 2007年1月18日,科学网对外发布,下设新闻、论坛、博客、分类信息、资料贴吧、科学家、实名举报等频道。 2017年1月18日,是科学网开通10周年。搞点纪念活动吧! 在《科学网》最早 的前 100 注册用户里,开博客的是: (1) http://blog.sciencenet.cn/home.php?mod=spaceuid=12 方芳的博客,管理员,注册时间 2006-12-19 22:03 (2) http://blog.sciencenet.cn/home.php?mod=spaceuid=45 科学网的博客,管理员,注册时间 2007-1-5 15:18 (3) http://blog.sciencenet.cn/home.php?mod=spaceuid=57 注册时间 2007-1-8 (4) http://blog.sciencenet.cn/home.php?mod=spaceuid=69 张楠的博客,注册时间 2007-1-9 20:40 (5) http://blog.sciencenet.cn/home.php?mod=spaceuid=84 刘杨的博客,注册时间 2007-1-12 17:26 (6) http://blog.sciencenet.cn/home.php?mod=spaceuid=85 http://blog.sciencenet.cn/u/爱好者2004 雷永青的博客,注册时间 2007-1-12 18:11 (7) http://blog.sciencenet.cn/home.php?mod=spaceuid=93 何运良的博客,注册时间 2007-1-13 21:55 (8) http://blog.sciencenet.cn/home.php?mod=spaceuid=98 刘子鸿的博客,注册时间 2007-1-14 21:33 (9) http://blog.sciencenet.cn/home.php?mod=spaceuid=99 胡祖权的博客,注册时间 2007-1-14 22:16 其余的用户,都是谁?现在在做什么? 目前《博客总排行》前十: 1 黄安年 • 注册时间 2007-3-8 00:41 2 许培扬 • 注册时间 2009-7-6 11:19 3 杨学祥 • 注册时间 2007-6-9 20:03 4 陈 安 • 注册时间 2008-6-10 22:04 5 武夷山 • 注册时间 2007-4-25 13:54 6 孙学军 • 注册时间 2008-3-29 08:10 7 王鸿飞 • 注册时间 2007-1-20 10:56 8 饶 毅 • 注册时间 2007-6-7 14:09 9 王德华 • 注册时间 2008-4-7 13:45 10 喻海良 • 注册时间 2008-12-24 22:11 里面有 5 位是 2007 年来科学网的。 看来,成功与坚持有密切的关系。 抛砖引玉吧! 相关链接: 关于科学网 http://www.sciencenet.cn/aboutus/ 科学网《大事记》 http://www.sciencenet.cn/aboutus/default.aspx?id=4type=1 2007年1月18日,科学网对外发布,下设新闻、论坛、博客、分类信息、资料贴吧、科学家、实名举报等频道。 科学网博客排行 http://blog.sciencenet.cn/blog.php?mod=list 陈昌春,2015-2-2,本科1981级或1985届博友们看过来,秀秀你的人生感慨----30年忆往 http://blog.sciencenet.cn/blog-350729-864759.html 毁树容易种树难 【笔会“高考1981”】 众人:魏东平、祖乃甡、王德华、鲍得海、余昕、庄世宇、 刘苏峡,2009-08-02,之未去篇之想念篇 ——“高 考1981 ”博友及 嘉宾聚会 http://blog.sciencenet.cn/blog-2055-246994.html 感谢您的指教! 感谢您指正以上任何错误!
3487 次阅读|4 个评论

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-16 04:11

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部