科学网 › 标签 › 人机回圈

标签: 人机回圈

相关帖子	版块	作者	回复/查看	最后发表

没有相关内容

相关日志

为刘锋大作《崛起的超级智能》所写的序（下）——四大关系: lvnaiji 2019-7-9 19:42; 吕乃基书中还涉及到该领域前沿的若干重大关系。其一，互联网大脑与人工智能的关系。一部自然史，存在以下一组组关系：宇宙起源和基本粒子生成，恒星演变与各种核素生成，地球（太阳系）演变与生命起源。上述各个环节中，前者的作用类似于熔炉或舞台，后者则类似于舞台上的演员。舞台与演员，在相互作用中协同演变。例如，地球（太阳系）是化学进化、生命起源和生物进化的温床和摇篮；反之，化学进化、生命起源和生物进化又在地球上留下了自己的印记，进而改变了地球，典型事例就是由还原性大气转变为氧化性大气。随着自然界的演化，在演员与舞台的关系上，演员的地位与作用愈加凸显，具有越来越大的“能动性”；与此同时，演员与舞台越来越彼此融合，不可分割。历经跌宕起伏，人工智能强势回归。什么是人工智能的“舞台”或用武之地？一方面， “在人工智能大规模与互联网结合之前，互联网的大脑还处于半休眠和肢体局部瘫痪的状态，人工智能激活了互联网各个节点和各神经系统，使得互联网作为一个完整的神经系统开始运转起来” 。演员——人工智能，赋予舞台——互联网，以生命。另一方面，互联网赋予人工智能以用武之地，或许更确切地说，互联网赋予人工智能之“舞台”以特定的形式——网络，以此协调人工智能各分支的关系：感官，如视觉、听觉、触觉（值得注意的是，人工智能在有意无意之间无视对于人间美食如此重要的味觉，以及在一定程度上淡化对于所有动物不可或缺的嗅觉，意味着某种不同的进化道路）的关系，由社交网络等形成的群体智能，反射弧所连接的决策与行动，特别是左右脑，也就是人机之间的关系，以及上述所有关系的关系。关于人际关系和人机关系后文还将述及。其二，中心还是网络？表现之一是互联网大脑与区块链的关系。回顾互联网的“初心”，阿帕网的意图是，“设计一个分散的指挥系统”，这些“分散”的指挥系统彼此间平权。“所有计算机生来都是平等的，”此言令人想到“人生而平等。” 人际，以及个人与国家之间是契约关系，计算机之间则由 TCP/IP 互联。然而作为“脑”，必然有层次，例如条 - 行业，块 - 区域、城市，企业，以及条块结合，进而必然指向、形成、需要一个中心。在互联网的发展中，云计算及其集中化趋势也验证了这一点。区块链则 “对应一种（在进化史上）古老的神经系统试图反抗互联网的神经中枢化趋势”,“区块链也只能作为互联网云计算架构的一种补充而无法成为主流。” “互联网形成了两大类型的应用架构，中心化的B/S架构和无中心的对等网络（P2P）架构”。在技术上，分散，每一个点都要存储和计算海量的数据，付出能耗，需要自行升级，实际上难以做到；集中，则有信息传输时滞和失真等问题。中心化还伴随着权力的集中和侵犯隐私。作者认为，对于“中心”这样 “同时具有运动员和裁判员身份的问题等等，将来可以通过商业的方式，政治的方式逐渐解决。” 嫦娥四号探测器成功在月球背面着陆或许提供一个案例：大部分内容和时间段中心化，包括着陆区域，最后由探测器自主决定着陆地点。分散与集中，去中心化与中心化，发散与收敛，某种程度上还有上文述及的人工智能与互联网的关系，会是互联网大脑和超级智能未来发展中的某种 “张力”，既是发展的动力，又将影响演化的方向。 “过去装在电脑机箱里的各个单独部件——存储信息的硬盘、处理信息的微型芯片、操控信息的软件——现在已经可以分散在世界各地，通过互联网集成，并供每一个人分享。” 这番话在某种程度上形象地表现了中心化与去中心化的关系：中心，并非固定不变，而是流动变化着的每一个人。其三，互联网大脑的智商与情商。作者及其团队提出并测算了包括互联网大脑等在内的一系列智商，开拓了对于认识与实践均有重大价值的领域。笔者以为，由此可以提炼出相应的“规则”，成为作者提出的“十大规则”中的某项新的规则。实际上书中已经突破“智商”的本来意义，在某种程度上进入“情商”的范畴，例如“ AI 价值智商”中的“价值”。“十大规则”中的 “规则7：挖掘互联网大脑的情感特征将获得超额回报” ，还有“沃民高科建立的沃德社会气象台”等，实际上关系到人的“意向性”。就人工智能界所区分的强、弱人工智能而言，书中所述大致都是“弱”人工智能，由此最终形成的 “统一的互联网大脑” ，以及“超级智能”，在这样的“叙事”中，作者并没有专门述及“强”人工智能。不过，既然在实际上关系到“意向性”，也就涉及到作者未直接提及的“强人工智能”。从根本上说，无论是智商还是情商，都是基于人类的水准和需求，这一点在目前阶段合理且可行，问题在于今后。作者认同互联网大脑所拥有的超级智能是一种“涌现”。互联网大脑的“智商”能一直以人类的智商和情商标准来衡量吗？最后，也是最重要的是，互联网大脑“左右脑”的关系。十年来，作者思想的一大飞跃，是将人类的智能，“群体智能”引入互联网大脑。“人”成为互联网大脑新的重要元素，从外在到内置，从高高在上引领，到人机平等相待。由此引发两个问题。其一，“群体智能”中的“群体”是谁？人，或许只是在基因和生理上属于同“类”，在文化基因和心理上不是同“类”。人类，因“文明的冲突”而在漫长的岁月内耗、争斗不断，乃至你死我活。刘锋看到， “科幻电影中‘天网’、‘矩阵’、‘奥创’与人类的对抗，在现实中归根结底依然是不同人之间的斗争。” 赵汀阳进一步描绘了这样的图景：假如将来出现两种以上的超级人工智能系统，相当于存在两个上帝，其结果可能非常惨烈，战争的可能性将远大于联合的可能性，类似于两种一神教难以相容。从当今世界的状况来看，这样的预见未必是杞人忧天，无稽之谈。 “群体”还有知识和经济上的贫富差别，“折叠”。能够作为“群体”，有相应的权重，有资格有能力与机器智能互动者是少数人，贫者少有或没有机会成为群体中的一员。如果考虑到基因编辑，这种状况就更为现实。 “群体智能”中的“群体”是谁？这是另一个题目，留给人文社会科学的课题。刘锋的新作关注的是人类作为整体与互联网大脑的关系。 “一方面将右侧的人类、商业机构、军事机构、政府机构链接起来形成互联网的右大脑-云群体智能，另一方面将左侧的传感器、音频视频监控、机器人、交通、生产、办公、家庭智能设备链接起来形成互联网的左大脑-云机器智能” 。重要的是，互联网左右大脑的关系。 “ 互联网的左大脑-机器云端智慧并不具备独立的智慧和进化能力，互联网的右大脑-人类群体智慧是驱动互联网前进的核心动力。 ”“ 失去人类支持的互联网，它的智慧和进化速度也将几乎为零。 ” 在一篇谈论百度搜索的文章中，作者写道，社交筛选 + 机器筛选，成就了目前最好的搜索引擎解决方案。在微信 7.0 版，机器推荐依然不是形式上的重点，这不是微信团队不懂机器筛选技术，恰恰是他们对技术局限和期望目标之间矛盾的认知清晰，不想滥用技术。把微信做一些日常的搜索，因为这里有类似传统搜索引擎推荐的机器算法网页，也有微信公众号意见领袖的观点，也有朋友圈里身边意见领袖的评论。这就是“社交和机器双重筛选。” 其二，动态来看，互联网左右大脑的关系就是“人机回圈”。正是在人机之间的一次次回圈中，人的智能渐次转移到“机”，转移到左脑。即使来无踪去无影的“棋感”，也可以条分缕析。由阿法狗到阿法元，从一个局部可以窥见这一转移过程。在人机回圈之时，“机机回圈”悄然发生。排除不相干的“意向”（还有味觉、嗅觉），更加高效；没有彼此间的争斗，故而形成中心。此消彼长，机机回圈终将取代人机回圈，同时也超越属于人类，也限于人类的意识运动和意向性。在更大范围，技术作为整体，倾向于有自己的动力、体系，甚至目标（直接），倾向于引导需求，而不是被需求所引导。（《科学技术对文化的挑战》）人类的智能乃至生命，最终在未来的超级智能中获得永生。显然，以上所论之四大关系，仅述及所涉及领域沧海之一粟。两点未尽之言。其一是生物技术。既然类比人类大脑，大脑有其物质基础，由 DNA 和蛋白质等构成的脑细胞和组织；那么可以顺理成章提出这样的问题：什么是互联网大脑的“载体”或者物质基础，群体，机器，还是群体 + 机器？鲍捷提出“脱碳入硅” ，基因编辑是否可能为“碳”的未来留有一席之地？谷歌公司已宣布进军基因科学和生物科学领域，即实现“人工智能 + 基因科学”。人类身体的技术化与人类精神的技术化终将合一，成为同一个进程，也即从自然人向技术人演进的过程。最新的进展是“脑机接口”。其二是量子计算机。量子计算机的原理和语言与现有的计算机大不相同，有可能对人工智能与互联网产生深刻影响。 2016 年 7 月，美国国家科学技术委员会发布《推进量子信息科学：国家的挑战与机遇》报告，认为量子计算未来有望颠覆人工智能等诸多科学领域。洋洋洒洒 15 余万字。作者翱翔于互联网与人工智能等科技前沿，在灵光闪现之时提炼出“互联网大脑”。在互联网大脑的视野下，科技前沿令人眼花缭乱的发展有了头绪，互联网与人工智能未来的趋势也有了眉目，新的可能也将不断涌现。作者及其“互联网大脑”不会止步，必将伴随科技大潮继续前行。作者在书中写道， “‘上帝’不再需要，也不能‘创新’出新的，未知的知识。因此上帝的f(C)=0，这是非常奇特的结论。” 而 “活着的我们存在的意义是为那1%的概率努力让未来的生命能终有一天自省终极目标让未来的生命能进化到地平线之上” 感谢刘锋，让我先睹为快，以及受其大作的激发而写出上述文字。是为序。 https://baike.baidu.com/tashuo/browse/content?id=9e811c1412759a312a92e55ffr=qingtianlemmaId=9969353 赵汀阳 https://mp.weixin.qq.com/s/4nStnWwlfRpX_FsDMsSfng https://mp.weixin.qq.com/s/ENIRMhsrNDi72rE44zJMkQ 鲍捷， http://36kr.com/p/5070536.html 孙周兴 | 我们需要一种新的生命哲学 https://mp.weixin.qq.com/s/QdAnGRZMcfdPUuptgCELGQ; 个人分类: 科技|3604 次阅读|0 个评论

数据折叠与人工喂养人工智能: 热度 3 lvnaiji 2018-4-14 12:25; 人工智能的发展如火如荼。其背后必不可少的要素之一，供机器学习的大数据采集工作，如今依然出自人工之手。在因大数据而在中国西部异军突起的贵州省的深山之中，就有一群大数据采集者，他们是“人工智能背后的人工”。由贵阳市区沿着刚修好的公路驾车50多公里，就到了百鸟河数字小镇。小镇上一个容纳400多人的数据工场，电脑前坐满了来自附近一家扶贫高职的学生。学生来自各个专业，来这里主要进行数据标注的实习。把人工智能需要识别的数据，通过分类、画框等方式标注出来。标注好的数据将用于“人脸识别、无人驾驶、语音识别”等高科技项目。譬如，把道路上的汽车、行人、红绿灯等框起来，用于自动驾驶的训练等等。数据标注部接到新项目，采集不同场景下的三十二套动作，学生们按照图纸中的指定姿势拍下照片。数据标注是劳动密集型行业，门槛不高，经过几天培训就能上手。每天上班七八个小时，一个月挣两千元，是笔不错的收入。这些学生自己的家乡属于贫困帮扶地区，网络闭塞，4G网络信号还没延伸到这里，村里面没几户人家能上网，更别提人工智能和大数据了。 2018年3月26日，一家互联网公司在北京发布了首款人工智能视频音箱。音箱的语音识别大数据，正是出自于像小纯这样的标注员。随着人工智能产业的飞速发展，需要的数据量也在持续增加，贵州那家数据工场的400多人，已经不能够满足甲方的要求。紧邻工场，又租下了一幢三层的楼，等待装修好继续扩招标注员工。想起卓别林的《摩登时代》。100多年过去了，就这些学生而言，人机关系依旧。区别在于，在流水线上，卓别林做的是单调重复的体力劳动，人是机器；在“数字小镇”，学生们做的事同样单调重复，只不过是脑力劳动，人是“数字机器”。学生小纯对未来前途感到迷茫，“即使数据标得再好，还是没有前途。” “数字机器”只能偶尔显示生命的鲜活。傍晚下班，小纯在路旁看见一簇花开了，赶紧拿起手机过去拍，“花开很美，可惜白天没有时间去看它最美的样子。” 这是人工智能产业链的一部分，“供给侧”。眼下，贫困山区中坐在电脑前框图的高职学生，这些年轻人也是“人机回圈”中的一部分。人机回圈的另一部分是“需求侧”，是一线大城市的自动驾驶研发和语音识别、图像识别等其他人工智能。小纯和同学们正在源源不断地为北上广深的人工智能公司提供数据。他们想象不到，在人工智能“需求侧”一侧的模样。学生对被自己框住的汽车一概不了解，时常会好奇，标注里的SUV长什么样，无人驾驶是不是真的安全，还要不要考驾照等等。在人机回圈的两部分人，供给侧和需求侧之间存在着被忽视的“ 数据折叠 ”。在数字小镇，小纯、小广和同事们正在“以人工喂养人工智能”。卓别林“喂养”的是没有生命不会长大的机器。人工智能不一样，在“喂养”中一步步长大，最终可以轻而易举地把需求侧扩展到数字小镇。阿法元干脆把人机回圈中的这部分人淘汰出局。在热潮背后，小广和他的同学也在担心着，他们教会了机器人学习工作，而未来的机器人会不会取代他们。 http://slide.news.sina.com.cn/z/slide_1_64237_257098.html#p=4 看来，他们的担心多半多余。在中国，只要存在这样廉价的数字工人，人工智能产业链的需求侧就不会主动延伸和覆盖到这样的供给侧。在以大数据著称的贵州省，脱困脱贫有待时日。成为人工智能产业链供给侧的一个环节来喂养人工智能，或将是一段时期的客观事实。因而，数据，依然不得不折叠。; 个人分类: 杂谈|10033 次阅读|6 个评论

人工智能作为科学与技术的两重性[1]——一个业外人士的粗浅理解: 热度 7 lvnaiji 2018-2-25 08:33; 吕乃基人工智能是科学技术的前沿，不仅影响当下人类社会的方方面面，而且关系到人类的命运。正因为此，人工智能引发来自科技界内外的广泛关注和争议。这些争论大致可以归为三类：其一，人工智能是否会危及人类的命运；其二，强人工智能与弱人工智能的竞争与合作；其三，强人工智能与弱人工智能各自内部发展路径辨析。本文探讨第一、二两点，这两点都涉及对人工智能的科学属性与技术属性的理解。人工智能一身而二任，既是科学，也是技术，是科学和技术的一体化。无论置身于其中的业内人士还是身处局外的观察者，实际上自觉不自觉地不是把人工智能归为科学，就是认作技术。在某种意义上可以说，眼下关于人工智能的种种争论，或多或少均与此有关。一、强人工智能与弱人工智能 1. 强人工智能与弱人工智能分别对应于科学和技术强人工智能与弱人工智能之争可以归结到科学与技术的关系。相对而言，强人工智能强调跟随并再现人的自我意识，偏向于认为人工智能是探索人脑与意识的科学；弱人工智能则沿着图灵的思路，认为人工智能能够执行人脑相应的功能而得到应用即可。显然，在弱人工智能一方的心目中，人工智能是技术。正因为强人工智能与弱人工智能的背后有科学与技术之分，所以二者的思路和发展路径存在种种差异。强人工智能的目标是发现未知，揭示人脑及其运行背后未知的秘密，核心是主体的意向性。强人工智能的驱动力是其背后人类数千年如一日的好奇心，是一往无前永不遏止的探索精神。作为科学，强人工智能清楚肩负的重任。且不要说人类的“意向性”，身边猫狗等宠物的意向性说的清楚吗？有必要沿生物进化的路径回溯，先从模拟昆虫、鱼和哺乳动物的大脑开始，再一步一步进阶到对人脑的模拟。“强人工智能还太远了。”（北京航空航天大学自动化学院副教授秦曾昌）。面对如此宏大的目标，眼下的弱人工智能，哪怕是阿法狗，还是阿法元，只能是一个字：“弱”；而那些媒体为此的摇旗呐喊，只能是泡沫，从而给人工智能，特别是弱人工智能泼冷水。强人工智能嘲笑弱人工智能之“弱”，距人的智能何止千里之遥。“中文屋子”与其说是“怼”强人工智能，不如说是在羞辱弱人工智能。强人工智能要求揭示功能背后的结构，必须以“具有意识功能的材料为基质”（中山大学人际互联实验室主任翟振明），譬如说“微管”，由结构解释功能，在量子层面阐明意识的本质，以知其所以然。潘建伟认为，“不到量子人工智能的时代，我是一点儿不担心人工智能会取代人类。”。马兆远认同这一点，在由纳米尺度理解意识之前，“人工智能至少在三百年内还没什么机会超越人脑”。站在技术的立场，弱人工智能则认为强人工智能没有必要，实现功能无需舍近求远，不如且行且进。如果人们的目标是制造“工具”，那么考虑特定类型的智能行为就已足够，何必再去考虑独立意识（南京大学教授、计算机软件新技术国家重点实验室常务副主任周志华）？一部技术史，从工作机-动力机-控制学习机的线索来看，工作机、动力机、控制学习机，分解开来，逐一攻克。汽车并不是马，电机和热机未必如九牛或二虎，电脑虽在普适与情感等方面不如人脑，却越来越多的个别场合胜似人脑。从科技黑箱的视角看，使用者只在乎其能否执行功能。就此而言，科技黑箱并不介意牛马的结构，从基本物理运动、化学运动、生命运动一路走来，突破曾经的一个个界限，在实际上同样进入意识运动的王国。弱人工智能的目标是看得见的眼前，数年或数十年，在一定程度上可以预测，渗透到经济、社会和文化的各个领域，在个别的特定的领域逐一替代人。所谓“个别”、“特定”，就是边界明确，规则严密，赏罚分明，也就是有“激励机制”。弱人工智能，在这些特定的领域攻城略地，日益，以及坚定地扩大自己的营地。从知识论的视角来看，弱人工智能把人的日常生活与工作中有规可循的行为编码编程，大数据加算法加算力，做成控制学习机。再结合工作机与动力机，脚踏实地步步为营，对人工智能持乐观立场，集腋成裘，在近数十年间将会迎来“奇点”。其实，历史地看，科学和技术的发展都离不开对方的支撑和拉动，已经有太多的研究成果说明了这一点，人工智能至今的发展同样是科学和技术，在某种意义上，也就是强人工智能与弱人工智能，双方携手并进的结果（此处期待业内人士拍砖和完善）。 2. 强人工智能人机回圈中的“机”与“人” 如果接受这一观点，那么不难看出，笔者在（人机回圈：人类的科技化与科技的人文化（序及纲要）；人机回圈：人类的科技化与科技的人文化（一、 2 ） “ 机 ” 的演化 ... 人机回圈：人类的科技化与科技的人文化一、人机回圈中的 “ 机 ” ）中所分析的“机”，工作-动力-学习机，以及科技黑箱，都是把人工智能看作是技术。既然如此，作为科学的强人工智能，“机”的含义自然有所不同，那就是科学研究过程中所提出的“模型” ，例如一个多世纪前对于原子的“葡萄干面包”和“行星式”模型，关于银河系的“水缸里的漩涡”模型，以及DNA的“三螺旋”和“双螺旋”模型等。对于强人工智能来说，“机”，也就是模型，主要并不有意实现什么功能，而是旨在认识大脑的结构，理解和揭示意识的本质，这是模型的目标：人的大脑和意识。强人工智能与弱人工智能的人机回圈中的“机”不同，人机回圈中的“人”也不同。在作为技术的弱人工智能看来，人机回圈中的人是现实社会中的各色人等；那么作为科学，既然强人工智能中人机回圈的“机”是认识过程中的模型，那么人机回圈中的人就不是现实社会中的人，而是人作为“类”的典型。在一次次回圈中，模型无限逼近原型。眼下的一项最新进展是麻省理工学院的“类脑芯片” ，人造突触，是可以用于终端的便携式低功耗神经形态芯片，可将人脑能力“复制”到芯片，从而为实现神经网络硬件化打下坚实的基础。值得注意的是，强人工智能在某种意义上沿袭了西方近代以来的步点。秉承笛卡尔的“认识论转向”，“脑”登场，“心”只是“处理机械自然中为物理学无法解释的一切感性经验的倾倒垃圾的场所” 。所以需要“以头立地”，重“知”（智）轻“行”。然而，人是“工作机-动力机-控制学习机”的融合，不可分割。身体，不仅是工作机和动力机，而且全方位参与认知与实践活动。这就是“全身心”，心智合一，灵与肉不可分离。如果考虑到身心合一，那么强人工智能人机回圈之“机”，就必须以一个完整的人作为“回圈”的目标。2016/9/25上海AI小组闭门讨论会称，生命形态的不完整情况下发展的人工智能为“伪智能”。或许正是在此意义上，乔布斯曾在自传里预言：20世纪80年代是IT时代，而21世纪绝对是基因科技时代。生物技术将从技术之“机”和科学之模型两个纬度推进人工智能。考虑到科学与技术之间的互动，作为技术的弱人工智能中的“机”与作为科学的强人工智能中的“机”，也就是科学模型之间的互动，有待拓宽和强化。（此处同样期待业内人士拍砖和完善）二、人工智能双刃剑科学技术是双刃剑，这一点已经在科技界和社会上形成广泛共识。人工智能也是双刃剑。分析强人工智能与弱人工智能双方对人工智能双刃剑的立场会饶有兴味。 1. 科学与技术，何者更是双刃剑科学技术是双刃剑，这一说辞笼统了。进一步的分析可以发现，科学与技术相比之下，技术更是双刃剑。可以在自然与社会之间设一谱系，将人类的各项活动排序。相对而言，科学更接近自然，技术更靠近社会。科学源于好奇心，强调自由探索，“为科学而科学”，其成果是与特定的主体、对象和语境无关的非嵌入编码知识。科学的成果虽然可以为各方所用，但科学本身止于认识阶段。作为认识活动，科学与社会的互动主要在观念层面，科学实验虽然是实践活动，但目的主要是为了认识，而不是效益。技术旨在效用和控制，需要调动更多自然和社会资源，其成果满足特定社会成员的特定需要。作为实践活动，技术需要社会调集更多资源，技术的成果（科技黑箱）也会更直接广泛影响社会。技术与社会之间在经济、政治和文化诸领域发生全方位的互动。较之科学来说，技术的双刃剑效应，无论是正面还是负面，都更为显著，更为“锋利”。如果说作为认识活动，“科学无禁区”，那么作为产生后果的实践活动，技术必须有禁区。由此可见，技术必须更多顾及负面效应。 2. 强人工智能与弱人工智能对人工智能双刃剑的不同立场弱人工智能一方把人工智能看作是技术，因而人工智能必须考虑可控与效益，考虑双刃剑的负面效应。技术有禁区。因而担心人工智能最终影响人类的命运，霍金（科学家可以持人工智能是技术的观点，或者其成果终究会转化为技术，从而关注其负面效应）与马斯克是持这一观点的代表人物。他们担心的威胁，实际上是来自强人工智能。“严肃学者不该去碰强人工智能”（周志华）。如果限定在弱人工智能，则只会是人类乖巧而顺从的助手。如果看作是科学，更多强调自由探索精神，科学无禁区。难道“强人工智能是潘多拉魔盒？”（北京邮电大学人机交互与认知工程实验室主任刘伟）。即使是“潘多拉魔盒”，如果因此“说不要研究强人工智能，这就有些一厢情愿了。因为强人工智能是科学发展的必然趋势。” 回顾一部科学史，刘伟所言不差。合成尿素打破无机与有机的界限，生命科学和生物技术架起通往生命的桥梁，往日的界限已经攻克，意识运动同样没有禁区。大脑，即使加上身体，全身心，无论多么复杂，无限，毕竟是“已经生成”之物（或弦）；人工智能，无论是“强”还是“弱”，其发展却无穷无尽。这一点与《三体》中描绘的“黑暗森林”类似。这一追赶的步伐，在弱人工智能看来近在咫尺，就在数十年后，即使在强人工智能心目中，也就数百年。 3. 人工智能双刃剑前景先看作为技术的人工智能。科技黑箱将越来越黑。除了少数科技精英，人类中越来越多的人将不知其运行的机理，而科技精英的解释如“纠缠”、“叠加”、“塌缩”，则往往令常人如云里雾里，甚至科技精英也无法以经典的科学概念解释得出的结果，乃至求助于已“恭候多时”的佛教徒。与此相反的趋势是，在相当程度上正是因为越来越黑，所以科技黑箱在操作上越来越简单。上文述及，科技黑箱沿量子阶梯上升，由无机到有机、生命，以及大脑，从生理到心理；工作机越来越能干，动力机越来越强大持久，控制学习机越来越聪明，因而对人类社会的影响在正负两方面都越来越大。这一点再加上双刃剑越来越黑，越来越简单，因而双刃剑那一刃都变得越来越锋利。人性有两个根本的弱点：自利与有限。无自利，或许唯有耶稣和佛陀。有限，不可能洞察一切。沿弱人工智能的途径，人工智能的发展将最终超越人性的弱点。弱人工智能没有自我意识，意味着无所谓“自利”，无关尊严、荣誉，对于所有的情感“没感觉”，而是遵循规律。弱人工智能不是克服，而是绕过人性的自利。而在时空上无穷无尽的大数据和超凡脱俗的计算能力则超越人之“有限”。 “让机器工作，让人们思考” ，这是2011年9月22日，IBM公司在计算机纪元50周年的题词。这十个字是弱人工智能的宗旨。回顾历史，在普里戈金的分岔图上，每一次科技创新或多或少都是一次分岔。每一次分岔，往往针对上一次创新的不足之处与负面效应，换言之，人类毕竟还拥有一定程度的控制权，可以由新的分岔弥补修正上一个分岔的负效应。展望前程，人类正在越过的是人类历史上最大，或许也是对于人类来说的最后一个分岔。人工智能的发展将可能一劳永逸地结束人类社会历经万年，“从分岔到分岔”的“曲折前行”的道路。再看作为科学的强人工智能。即使在不涉及实践后果的纯粹的认识领域，强人工智能同样有令人毛骨悚然的效应。在围棋界，来无踪去无影的“棋感”已被阿法狗解密。试想，例如在人类最神奇私密的爱情领域，强人工智能将其中难以乃至不可言说的微妙之处一一解码，娓娓道来，以示天下，人类还花前月下，谈情说爱吗？要是同情心、审美和宗教情怀都可以在“微管”与量子的层面上得到解释，这一说辞不禁令人想起历史上曾经的还原论。强人工智能与弱人工智能的一个共同点是，踏在往日科学技术的肩上，沿量子阶梯和运动形式升高，直至生命和意识。斯蒂芬·沃尔夫勒姆（Stephen Wolfram）表示，模仿人类，既是错误的路线，又是唯一可行的路线。强人工智能与弱人工智能结合，能否是“上帝的归上帝，凯撒的归凯撒”的模式。人，照看自己的灵魂，做出决策；机，人工智能从事计算，提供决策的依据和选项。“人心机脑”，是可欲的理想，还是一厢情愿？人是双刃剑。虽然有上述种种反思，但是强人工智能也好，弱人工智能也好，二者的相互结合也好，人工智能继续推进的趋势不可阻挡。说到底，在这一趋势的背后，依然是人工智能苦苦追寻并试图超越的人性。人性推动人工智能超越（否定）自身。科技双刃剑的根源是人。人自身就是双刃剑。一刃是善，一刃是恶；一刃是自我控制，一刃是放纵自我；一侧是对世界无穷的知与控制的欲望，另一侧是有限的认识和实践能力；一边是对不确定未来的向往或恐惧，一边是对确定往事的留恋或背离。说到底依然是两句话，人是自利的，人是有限的。前者的表现之一是控制欲，控制自然，控制他人，与此同时则是放纵自我。个人的控制与放纵，在人际就是控制与反控制。后者在于，由于自然界（大脑）的极端复杂、相互关联与不确定，由于人（国）际关系的博弈或合作，以及由于主观能力所限，人不可能把握全局，不可能预知未来。回首往事，历历在目；展望未来，充满了分岔和不确定。两千年前，伊壁鸠鲁的原子论认为原子的偏斜造就了世界，上世纪居里的名言是，非对称创造世界。或许应该补充的是，非对称也会毁灭世界。潘多拉魔盒释放了科技，也就是释放了双刃剑。打开了，就不可能再关上。弗洛伊德在1930年写道，能否理解，文明在多大程度上是建立在对本能的满足之上，又是在多大程度上是以对强大的本能的力量（以压迫、镇压或别的方法？）不予满足为前提？凯文·凯利谨慎地表示，互联网产生的相当大一部分都是不好的。但只要互联网的积极的一面仅仅比负面效应多出1%，我认为这1%会年复一年地滚动，历经数十年甚至上百年的复合产生收益。所以，为了长远获得正效应的复利，现在互联网产生的正面效用，必须要比负效应哪怕多那么一点点。本能（好奇、控制……）或许正是比对本能的控制大了1%。正是这1%的不对称,“建构”了迄今的文明史。除了邪教，几乎所有的宗教都在于劝诫放弃对自然和他人的控制，代之以控制自我。要是宗教大获成功，或许人类将止步不前；要是没有宗教，人类将自我毁灭。自然界，正物质恰好比反物质多了“一点”，那多出来的“一点”构成了人类和大千世界。说到底，人自身双刃剑的不对称，这才是科技双刃剑——无论是正面还是负面——的原动力。只要人类一息犹存，就不会停下好奇与控制的脚步；只要人类不停下探索与支配的步伐，最终的征服对象就是人类自己。这是人类最大的悖论。向死而生，这是哲学家对个人的教导，现在成为人类本身的宿命。人类，能否凤凰涅槃浴火重生…… 鉴于科学与技术之间没有截然分明的界限，强人工智能与弱人工智能之间也没有截然分明的界限，因而本文中的论述也会带有这一印记。 http://mp.weixin.qq.com/s/UkIBPqfVJ4_wbOcwQPZv3w 伊·巴伯．科学与宗教．成都：四川人民出版社， 1993 ． 35 强人工智能是潘多拉魔盒吗？秦曾昌、翟振明、周志华、刘伟，2018-02-05《科技日报》：张盖伦 http://blog.sciencenet.cn/blog-40841-1098625.html http://www.php230.com/weixin1430105795.html; 个人分类: 科技|5549 次阅读|16 个评论

人机回圈：人类的科技化与科技的人文化（一、2）“机”的演化...: 热度 2 lvnaiji 2018-2-3 18:41; 吕乃基 2. “机”的演化方式 A. 工作机-动力机-控制学习机的演化工作机-动力机-控制学习机的演化方式，就是沿着由工作机、动力机到控制学习机的序列。人类早期技术的发展主要是“工作机”，如弓箭、有把的斧、简单的农具、磨、纺纱机和织布机等，需要直接来自自然界的动力，如风力、水力、畜力和人力，以及需要由人来操作和控制。这些工作机的载体大致同步演化，从石器到青铜到铁器。第一次工业革命出现了动力机。虽然罗马时期的希罗曾发明某种蒸汽机，中国在12世纪发明了火药推动的火箭等，不过这些动力并未与工作机结合起来。瓦特的蒸汽机则是“万能机”，可以与各种工作机相结合。与此同时，在钟表、八音盒，甚至蒸汽机里，均可见初步的控制和负反馈装置。不过控制学习机的大规模出现和完善要在第二次工业革命之后，其标志是流水线和自动化。 20 世纪至今，工作机与动力机在继续完善，相关的载体-材料也在不断改善，然而，这一时期技术发展的主流显然是控制学习机及其载体，其划时代的成果当属计算机和芯片。同时也出现了为控制学习机所独有的演化方式：“软件硬件化和硬件软件化 http://mp.weixin.qq.com/s/D6Ft8FVR3-Fu3GR-2fCJAA ”。区块链可以归为控制学习机，控制的对象在理论上可以覆盖人类社会的所有契约关系。在相应的契约关系中，越多人参与，控制的效果就越好。区块链与往日的控制学习机的区别在于，控制者同时也是被控制者，我管人人，人人管我（虚实之间的“区块链” http://mp.weixin.qq.com/s/bM4TPTC3AVGWzl1gC1McOg ），从而无需“中心”或第三方。与区块链“回圈”的“人”，会是现实世界中形形色色拥有权力的“中心”。最新的趋势是，软件在与载体的“对垒”中获得越来越大的权重，一切皆可编程，“计算”已经成为“主义”，以及尽力摆脱载体的羁绊，一骑绝尘。亚里士多德试图将万物排列在以质料与形式为两级的谱系上，一端只有质料，没有形式；另一端只有形式，没有质料。在某种意义上，宇宙大爆炸之前的“奇点”，可以认为是只有质料而没有形式的一端。137亿年后，人机回圈中的“机”，其中的控制学习机，其中的软件，正在趋于谱系的另一端，只有形式，没有质料。由互联网到物联网的发展突破工作机-动力机-控制学习机的框架，可以认为是将人类社会以及所有形形色色的“机”网罗起来，目标是“一网打尽”。网不是“机”，网在人机回圈中扮演了虚拟空间和平台的角色。前者指将人机回圈运行的舞台由物理空间延伸到虚拟空间，在某种程度上可以说是，人在物理空间，机在虚拟空间；于是，人机回圈在此意义上就是物理空间与虚拟空间之间的回圈， “虚实回圈” 。平台的含义是，打破时空的限制，在网络上架起各种人机之间的桥梁，在越来越大和、更多元化的领域，非线性的作用方式，以及加速人机之间的回圈。平台不断自我扩张。目前，控制学习机一方面趋于中心化，如云计算、谷歌、脸谱，中国的BAT等互联网巨头，“互联网大脑”（刘锋）初现端倪；另一方面也存在分散化和去中心化倾向，分散化意为把各个单项进行到底。周鸿帏认为，人工智能必须结合一个垂直的领域，以解决具体问题。擅长于单个方面的人工智能虽然是弱人工智能，却有些类似于澄江生物群在寒武纪的大爆发。中科院计算所的一个课题组把研制的对象命名为“寒武纪”，是否意味着开启人工智能的“寒武纪”。去中心化的标志则是眼下炙手可热的区块链。未来，中心化与去中心化可能齐头并进，背后还会有国家权力的身影。 B. 科技黑箱的演化首先，科技黑箱演化最重要的方向是“运动形式”提升。人类目前所认识的运动形式有6种：基本物理运动、宇观和微观物理运动、化学运动、生命运动，以及意识运动，宇观和微观物理运动的情况较为复杂，其他4种运动形式之间构成由简单到复杂的序列。在第一次工业革命后，技术由钟表、热机和电机——大致限于基本物理运动（机械运动、热运动和电磁运动），经19和20世纪的炸药和化纤，也就是化学运动，发展到今日之生物技术和信息技术，由无机界、有机界而精神，一步步踏进人文文化的领地，进入马斯洛需求层次的高端。21世纪初露端倪的会聚技术，会聚了信息技术、生物技术、纳米技术和认知科学，全面进入人脑和意识领域。机器人沿着程序化由易到难的道路推进，渐次将人的思维机器化。美国卡内基-梅隆大学机器人实验室主任汉斯·莫拉维克“觉得机器人的发展大体上重复了生物的进化，所涌现出的一代代机器人的性能类似于不断增加的动物神经系统的复杂性。” 哈萨比斯：构建的算法受到人类智慧和大脑工作方式的启发，试图模仿大脑解决这些复杂问题的方式。阿法狗将人类的骄傲，来无踪去无影的直觉，棋感、大局观等转化为程序和计算，化神奇为常理。怎么理解互联网、物联网？显然，互联网和物联网是科技黑箱。所有使用“网”的人士中，不说完全，较为清晰理解个中三味的恐怕不足“二八”中的“二”。 “网” 又不是一般意义上的科技黑箱，是连接科技黑箱的科技黑箱，因而可以高度放大人机回圈的效应。不仅如此，还形成了既作为现实世界映射，又独立于现实世界的虚拟世界。简言之，科技黑箱的演化在总体上追随人类——个体与社会——成长的足迹。在人机回圈中，二者之间的距离越来越近。其次，科技黑箱越来越“黑”。科技黑箱由简单到复杂，低级到高级的推移，也就是相关知识如力学、热学、电磁学、化学、生命科学、信息科学、心理学，乃至经济学和社会学的逐一黑箱化或被遮蔽。一方面，集成于科技黑箱中的科技知识将越来越艰深，越来越复杂和越来越难以理解。另一方面，科技黑箱操作起来却会越来越简单越来越方便，往往只需按下键钮，移动鼠标，一切就都迎刃而解，这就是“人机界面”友好。在这一难一易之间，科技黑箱就变得越来越黑。科技黑箱蕴含的运动形式提升与越来越黑与科技革命紧密相关。每次科学革命就在于使人类关于自然界的知识发生跃迁，随后发生的技术革命则将所获得的新知识集成，“封装”于科技黑箱之中。近代科学革命提供了力学、微积分和初步的热学知识，蒸汽机即将其封装起来。19世纪电磁理论、热力学和有机化学得到发展，随即是电机、内燃机、染料和炸药。20世纪上半叶，量子力学、凝聚态物理学和数学得到发展，到后半叶生命科学获得突破，然后是电子计算机、光纤、纳米技术、航天飞机和互联网，等等。如果说科学革命在于少数科学家掌握前所未知的知识，那么接踵而来的技术革命则把这些新知识按人的目的封装于科技黑箱之中。从而为广大的消费者得以共享。在此意义上可以认为，科学在于发现知识，而技术则传播知识，然后在科技黑箱所提供的共享知识的新的平台上从事新的发现和创造。科技黑箱的上述演化特征与自然界的演化过程如出一辙。自然界的演化过程自然界中运动形式由简单到复杂，由低级到高级的系列，对应于自然界的物质层次。在已知的物质层次上，夸克对于质子、中子是“封闭”的，核反应的能级不会影响到夸克，核物理学也不必虑及夸克。质子与中子之间的相互作用对原子和分子中核与电子的关系又是封闭的。凝聚态物理学、无机和有机化学不必考虑质子和中子。再往上，原子、分子中核与电子的相互作用对于生物行为基本上是封闭的。社会生物学家们一般并不需要多少量子化学的知识。进而在社会科学和人文科学领域，最新的发展表明，一些基本的经济规律、管理规律也正在经历这一变化，如以集成为主要标志的CIMS，它给企业带来的最大变化，就是将企业运行中关于事实和规律的知识按一定的目的黑箱化。在CIMS之后是ERP。相应于自然界中的物质层次，有学科和知识的层次，进而有科技黑箱的层次。作为科技黑箱，区块链眼下正在“封装”的对象是人类社会广泛存在而在现实世界难以落实的契约关系。可以看到，正是自然界中低层次物质对于高层次物质的封闭性，导致低层次知识对于高层次知识的黑箱化，进而造就科技黑箱。这就是科技黑箱演化的客观依据。科技黑箱下一步封装的对象会是人类社会按规则存在与运行的事情与过程。在科技黑箱沿量子阶梯和马斯洛需求层次上升之际，另一个值得注意的进展是围绕着“量子”展开的一系列研究，在科学上是对意识的探索，在技术上是量子计算机。在这一特定领域的人机回圈可能在整体上引领更大范围的人机回圈，以及可能开拓人机回圈的新方向。科技黑箱演化的又一个特征是，科技黑箱趋于获得越来越多自我学习的能力。 20 世纪中叶前，科技黑箱中所集成的知识来自其制成前外部的输入，而在而后的发展中，如柔性化生产、自适应、自学习等都表明已经制成的科技黑箱具有一定的自己获得知识，自我演化的能力。这就是上文述及的“机机回圈”。机机回圈是追随人类的步伐，还是我行我素，另辟蹊径？转引自：黄永明，太聪明的机器人，南方周末 2009-4-9; 个人分类: 科技|3770 次阅读|5 个评论

人机回圈：人类的科技化与科技的人文化一、人机回圈中的“机”: 热度 1 lvnaiji 2018-1-31 17:16; 吕乃基可以从存在与演化两个方面探讨。 1. 人机回圈中“机”的存在方式 A. 工作机-动力机-控制学习机人可以看作由三部分组成：主要由四肢、躯干，以及发声系统和脸部（表情，包括眼神）等构成的“工作机”，内脏和循环系统主要承担动力，大脑、感官与神经系统负责控制（包括感知、分析、决策和执行）与学习。人体是三部分高度合一，以及所有的功能与载体同一的整体。 “机”的形式多种多样，大致也可以归结为以下部分：工作机、动力机与控制学习机。控制是负反馈，学习是扩展和提升。对于“机”来说，这三部分可以结合在一起，也可以以不同的方式分置，在使用时再结合起来。分置与结合，是“机”区别于人的一大特征。对于使用者而言，所关注的主要是“机”作为整体的功能，也就是由工作机做出的最终的输出，并不在意其载体、能源，以及幕后的信息处理方式。为此，可以分别改进工作机、动力机与控制学习机，以及调整它们之间的关系。这就关系到这三部分之间的接口、界面、协议、标准，以及相互兼容的情况。工作机、动力机和控制学习机都需要专门适合各自功能的载体，这是“机”区别于人的另一个特征。为了更好发挥这三大部分各自在“机”整体中的功能，可以分别灵活调整载体。譬如说，控制学习机的载体“脱碳入硅”。 “机”的这两个特征都会影响到人机回圈的内容与方式。一方面，人机回圈中的“机”是工作机、动力机、控制学习机，还是这些“机”的某种组合，回圈，是否包括“机”的载体；另一方面，“机”是否与“心”、body回圈。DeepMind认为2018年AI取得大突破的方向是生物和化学领域。载体关乎材料，动力机需要能源，控制学习机涉及信息。于是，“机”便全面涉及所谓人类社会的三大要素：材料、能源、信息。 B. 科技黑箱工作机、动力机与控制学习机是人机回圈中“机”的内部结构，作为整体而言，“机”的存在方式是“科技黑箱”。以各种方式存在的技术产品，例如仪器设备、药物、傻瓜相机、电脑等构成形形色色的“科技黑箱” 。科技黑箱，“科技”之义为包含了大量乃至艰深的科技知识；“黑箱”，意为消费者并不知晓其中的知识，如同面对黑箱，只需按规程操作便可得到预期的输出。科技黑箱使得每一个消费者----不仅牛顿，都能直接“站在巨人的肩上”，以及站在当代人，站在比尔盖茨和乔布斯的肩上继续前进，无需学习背后的科技原理和制作过程，因而极大地加快了人机回圈向更大范围的扩散和更深层次的推进。科技黑箱就是人类的“获得性遗传”。每一代新科技黑箱的出现，就为年青的相对‘无知识’（这些知识已被集成于科技黑箱之中而为他们所共享）的一代的崛起与赶超提供了机会，同时也为落后地区和国家的赶超提供了机会。 “黑箱”是控制论中的概念，意为在认识上主体对其内部情况全然不知的对象，由输入不能预期输出，其变化不可控。科技黑箱的含义与此有所不同，指能满足需要的商品或服务，其中所含有的科技知识和其他要素被集成于某种框架内，至少生产方（包括创新人员和设计者等）知晓。一般的消费者则仅知道或关心其价格和功能，而对其究竟如何制作出来并能满足需要或不求甚解，或不感兴趣，或无从得知，或难以理解，如同面对黑箱。这一点与上文中所述相一致——人们关注的是工作机的输出，并不在意工作机的工作原理，以及动力机与控制学习机的状况。这一点对于人机回圈十分重要，譬如说，人们并不在意在海陆空的交通工具如鱼、马和鸟。在正常情况下，使用者按照规则输入就可以得到合目的的输出。手机、电脑、摄像机和机器人等，在不同程度上都是科技黑箱。科技黑箱把人机回圈中的人分为两类：位于科技黑箱之前，在供给侧的研发设计和制造者，以及使用科技黑箱，在需求侧的各色人等。吕乃基，论科技黑箱 . 自然辩证法研究 2001.12; 个人分类: 科技|6445 次阅读|2 个评论

人机回圈：人类的科技化与科技的人文化（序及纲要）: 热度 2 lvnaiji 2018-1-28 10:04; 吕乃基人工智能是当代科技的前沿，涉及面广博，而且关系到人类的前途命运。不同领域的专家从各个角度加以研究，引发各种争论。由“人机回圈”切入，有可能厘清相关的争论与问题。 “ 人机回圈”（Human in the loop），意为“将个人（专家）或公众群体的判断，融入AI系统的优化中去”。 http://mini.eastday.com/a/170801174144369.html 在许多情况中，机器所面临的是复杂的问题，需要决策与妥协。通常，如何妥协是一个伦理问题，不能单纯依靠机器学习的算法来得到答案，需要人机回圈的过程来辅助机器做决策支持。人是规划环路的一部分，人的判断既用于业务决策，又被反馈到机器学习算法中，使其更智能。在涉及到千万人的社会问题中，更需要由大家众筹得到一些社会问题的共识，形成自动算法+社会判断的反馈回路。这就是“众机回圈”（Society-in-the-Loop）。 http://www.a-site.cn/article/718384.html 如果把“回圈”中的“机”理解成一般意义上技术的产品，那么在更久远的时间尺度，在人猿相揖别的第一天起，“人机”就一直在“回圈”之中。回顾人类历史上的“人机回圈”，有助于理解AI中的人机回圈及其趋势。再往前推，对人机回圈历程的追溯涉及到动物世界。除了极少数情况外，动物世界与自然界之间是没有中介的直接的关系，灵长类动物使用的工具，也是身边基本上未经加工的树枝、石块等。人类社会与动物世界的区分之一是，人类社会与自然界之间是经由形形色色人工自然的中介而形成间接的关系。动物世界直接面对自然界，唯有通过基因的变异改变自己的命运，偶然、不能控制，以及耗费巨大时间成本，最终依然接受“适者天择”的命运。人类发明了技术，随后，人类又在人工自然，也就是技术搭建的平台上与自然界相处，以及与人类社会相处，在相处中发现新的问题，提出新的要求，进而发明新的技术。人类间接地经由人工自然面对自然界，面对人类社会，一步步减少偶然性，以及极大地缩小时间成本，以获得在自然界与人类社会中越来越大的控制权和自由度。由此可见，在人与自然之间实际上存在两个“回圈”，其一是人机回圈（除了为避免歧义，下文中的“人机回圈”不再加引号），其二是“机”与环境（包括人类社会与自然界）之间的“回圈”。前者是改变人与环境关系的手段，后者是人在与环境的关系中希望达到的目的，由此检验人机回圈的效果与不足，给出下一步人机回圈的目标。两个“回圈”同步推进。在本文的视野下，可以把“机”与环境之间的“回圈”理解为人机回圈的语境。人机回圈，貌似所有的过程只是发生在人机之间，实际上环境自始自终都是不在场的参与者。正是在人机之间一次次无穷的回圈中，人在与环境的关系中获得越来越大的自由。就此而言，一部人类史实际上就是在与相应语境的关系中，人机回圈螺旋式上升的历史，或者说，人类史以人机回圈的方式推进。人工智能中的人机回圈，实际上是人类历史人机回圈的延续和最高阶段。通过对人类历史上人机回圈的回溯与辨析，以凸现和厘清人工智能中人机回圈的内涵。具体而言，可以由以下方面展开。首先，鉴于人机回圈中“人”的极端复杂性，可以先由相对单一的“机”入手，研究 “机”的存在方式与演化方式。其次，区分人机回圈中的“人” 。其一，区分人在供给侧还是需求侧；其二，区分人的不同层次，如人类、国家、组织、个人，以及覆盖不同层次的大数据。不同的“人”，会极大影响到人机回圈。暂且不考虑实际上存在的人与人之间的回圈。复次，分别探讨人机回圈中，由人到机（编程、塌缩）和由机到人（律令与自由）这两个环节，探讨这两个环节的界面（脑机接口芯片植入），经由界面分别传递了什么内容，以及发生什么变换。由人到机可以理解为科技的人文化，由机到人则是人文的科技化。第四，在“机”演化方式的基础上，结合人机回圈的两个环节，探索人机回圈的演变，以及人机回圈之语境的演变。以上内容有待一一展开。总体而言，从远古至今的人机回圈呈现这样一个趋势：人类的科技化与科技的人文化。这两个“化”正在趋于合流，合二为一。一个值得高度重视的迹象是，出现了“机机自己回圈”。; 个人分类: 科技|7889 次阅读|3 个评论

更多...

帐号		自动登录	找回密码
密码			注册

关闭 安全验证

标签: 人机回圈

相关帖子

相关日志

关闭安全验证