科学网

 找回密码
  注册
科学网 标签 FSD

tag 标签: FSD

相关帖子

版块 作者 回复/查看 最后发表

没有相关内容

相关日志

《马斯克AI自动驾驶的背后:软件的内伤,硬件的短板》
liwei999 2020-7-12 08:33
红色的Y是最新的迷你型SUV,大众版的X 马斯克财产超过马云以后,据报道今天也超过了股神巴菲特。 总觉得他的财富有我们帮他免费义务做marketing的份儿,他欠了粉丝们和观察家们一大票广告费。特斯拉的广告支出一直保持零记录,省的钱都进了大股东的腰包了吧。 最近特斯拉又出事故了:《 特斯拉和比亚迪撞上了!自动驾驶失控?特斯拉回应…… 》。这显然是软件问题,却说:“根据后台调取的数据,在事故发生时车主的双手处于脱离方向盘的状态,并且没有检测到制动信号。判定为车主当时操作不当,而非车辆的FSD硬件问题。” 废话,当然不是硬件问题,一台超级电脑本身会有啥故障?这套说法只是规避法律责任风险。即便司机手在盘上,但不做操作,也会说这一样是司机的责任,FSD 使用条款上早就写得明明白白,这是 beta(永远的 beta),后果自负。 车横插过来,以为 FSD 会自动让车,避免相撞,这是合理的,也是用户使用过程中迟早必然形成的预设。特斯拉 FSD 用户慢慢学会了或习惯了遇到有车加塞,不必去管它,因为 FSD 的基本功能就是要应对这种的。现在情况是,特斯拉是愚公移山,却宣称山已经移走。特斯拉的这套软硬件体系和算法对策一定会发生事故。它对长尾的办法,基本上是靠事故 trigger bug reports,然后收集数据,对于 bugs 各个击破。特斯拉不可能应对真正长尾。最后的成功,都是咱们这些小白兔们牺牲、受损的结果。特斯拉对付长尾靠的是大海捞针一样去收集长尾数据,然后做针对性特别训练,然后希望这特别训练的部分可以自然融合到自动驾驶的整体决策中。这个过程有与生俱来的缺乏透明性、不能确保定点纠错的黑箱模型的短板在。今天撞到大白货车上,就试图收集大白货车的各种图片视频,人工标注完然后教给机器,说这不是蓝天白云,而是货车。这部分训练是 CV(计算机视觉),并不直接训练自动驾驶决策(速度和方向的调整)。CV 在这一点提高了就被融入系统,希望它增强。但系统本身巨大无比,到底在具体场景达到多大效应依然是难以解释和追踪的。这才有同一种事故,会一而再发生的问题在,小白鼠牺牲一次是不够的。(第一起广为人知的最严重的致命事故是一位从事IT高管的特斯拉粉丝,它一头撞上一个横穿马路的白色大货车,同类的事故不久前在台湾也发生了,这次是横躺在路上白色货车,所幸无人伤亡)。而且适度泛化也不能确保。白车识别问题解决了,也许某种黄车又是问题了。软件方法论的短板,加上硬件跛脚没有激光雷达,不出事故才怪。如果配备激光雷达,上面提到的几个事故可以杜绝。马斯克夸张说凡是FSD用激光雷达,都是作死。说对于自动驾驶场景不 make sense。这完全是造价量产上的考量,却包装成 CV 软件技术上对于激光雷达的可替代性。纯属于误导。根本性解决方案是激光雷达技术进步,造价降低到可以普及量产。马斯克不过是打了个时间差,在硬件造价无法承受量产普及自动驾驶的时间,用软件瞎凑合,鼓吹 AI CV 无所不能。是 AI 泡沫成就了敢于冒险的马斯克。老友说得有道理:“小马同学的特点是用人类不敢干得事却把它干成了。利用CV合成3D图像,一旦做成就形成了entry barrier, 把google, apple, amazon etc. 甩在脑后了。” 然而很难说谁先到来,到底是激光雷达价格下来可以承受先来,还是cv几乎完美取代硬件先来?所以特斯拉也是在和时间赛跑。 回头看小白鼠们,我们都是傻瓜吗?不是,安全性上,特斯拉用户实际上是做了笔交易,牺牲了习惯性相信 FSD 而必然导致的麻痹性长尾危险,换取了 FSD 反应快过人类在其他场景带来的安全增强。每一个长尾事故的另一面,是 FSD 比人类快得多的自动规避风险案例。可是好事不出门,恶行传千里,媒体只报前者,后者媒体很少报道。但如果你去 google “tesla saved lives“,“Tesla saved animals” 、“Tesla avoided collisions”,你会发现很多案例和视频。人类其实很可怜,趋利避害也只能做到两害相权取其轻。当小白鼠不是不知道特斯拉忽悠自己的全自动是误导,而是貌似好过其他选项。 一年前的世界人工智能大会,马云与马斯克对谈AI,话不投机,基本是驴头不对马嘴。这几天咱中国又开世界人工智能大会了。马斯克远程现身,少不了鼓吹他的全自动(FSD)。回答会议提问L5这最高级别自动驾驶,会不会到来?马斯克拍着胸脯说:眼看就到了,就在今年。 先给一点背景信息。自动驾驶界对自动驾驶能力一般分为从低级到高级的五个 levels,大体如下: 美国汽车工程师学会(Society of Automotive Engineers)给出的评定标准,其主要内容是: 0级:无自动驾驶,由人类驾驶员全权操控汽车,可以得到警告或干预系统的辅助; 1级:驾驶支援,通过驾驶环境对方向盘和加减速中的一项操作提供驾驶支持,其他的驾驶动作都由人类驾驶员进行操作; 2级:部分自动化,通过驾驶环境对方向盘和加减速中的多项操作提供驾驶支持,其他的驾驶动作都由人类驾驶员进行操作。 3级:有条件自动化,由自动驾驶系统完成所有的驾驶操作。根据系统要求,人类驾驶者需要在适当的时候提供应答。 4级:高度自动化,由自动驾驶系统完成所有的驾驶操作。根据系统要求,人类驾驶者不一定需要对所有的系统请求做出应答,包括限定道路和环境条件等。 5级:完全自动化,在所有人类驾驶者可以应付的道路和环境条件下,均可以由自动驾驶系统自主完成所有的驾驶操作。 ( http://www.zhiding.cn/wiki-Autonomous_Car_Grade ) 按照上述标准,业内人士一直评定特斯拉刚到 L3水平。他就大嘴说 L5 指日可待。这是在偷换概念。业界的 L5 标准是业务 specs,马斯克的定义是工程 specs,前者到后者的转换,是工程实施的前提。但这个转变也可能有很多猫腻,夹进去私货。普罗大众哪里搞得清二者的分别,大多选择相信名人,偏听偏信,似是而非。 马斯克的工程specs是把自主驾驶或全自动驾驶分解为子任务:(1)召唤(summon):特斯拉听从主人召唤,从停车场自动开到路口接主人上车;(2)市区驾驶(city-driving):这又进一步分为一系列子任务,包括识别红绿灯过路口,路口自动转弯,等;(3)穿行高速(Navigate on Autopilot):从接壤市区的匝道上高速一直到从匝道下高速,接上市区驾驶,子子任务包括自动换线,自动从一条高速进入另一条高速等。 每个子任务一旦完成上线工程第一版,他就宣称已经实现,虽然质量不高、bugs 不断。按照他自己的这个全自动实现的标准,特斯拉的确已经完成四分之三的功能组件了。努把力,年底做到所谓全自动功能齐全(FSD feature complete)不是不可能。马斯克有一句话泄漏了天机:所谓 feature complete 的全自动,就是以非零的概率完成从家到办公室的点到点全程自动驾驶过程,人不需要参与。 这个标准也忒不讲理了,低到不能再低了,他好意思说出来,还敢声称 L5. 但从工程角度,他自有自己的道理 :全过程人不参与,哪怕只实现一次,也说明每个环节、每个 feature 都有 FSD 的应对。所以说 features 是 complete 了。能力、潜力或可行性算是证明了。这是从0到1的转变。其余的一切失误、bugs,都属于渐变提升的过程,那是从1 到 n,乃至无穷大,是无止境的。假以时间,就一定越来越好。 对比业务需求的L5定义,应该明白什么叫忽悠了吧。忽悠的化境,不过如此。并且还可以振振有词,貌似能自圆其说。这里面的 catch 就在,任何一个真正反映了业务需求的工程定义,都必然对 features 的质量规定了可量度的指标,这个指标绝对不是“非零概率”这样的地板门槛。 马斯克玩这套忽悠已经好多年了(四五年前就声称i已经有能力点到点从加州全自动驾驶到纽约,还定下了日子要给世界做演示,最后当然是天大的泡沫)。他吹过的牛皮、吹过的一个一个泡沫破灭,自定的死期一个一个错过,他居然不倒,反而以此获得荣耀。发现一个顶级的企业家,总是善于用短板和缺陷赢得生意和发展机会的。马斯克就是如此。他利用了硬件的短板(缺乏激光雷达)和软件的内伤(以场景枚举的再训练对付无限长尾)收获了自动驾驶领域最大的红利。这样下去,不用太久,世界首富非他莫属了。 特斯拉全自动驾驶无论硬件软件都不是第一流,也不是最安全,但它做到了工程量产和大众推广,这是其他一流自动水平的玩家都做不到的。这主要是工程改变世界,而不是仅靠科学。 前面说过,特斯拉玩的是蚕食策略,长尾现象一个一个做,最终希望逼近到这样一个程度,可以用数据说明,自动驾驶比人驾驶的安全性高了一个量级,事故减少了一个量级。这时候,没有道理不让自动驾驶接管,因为它更加 saves lives,这个思路本身无可非议。FSD 不能应对千变万化。但是,人也不能应对千变万化。我们上出租、火车、飞机,都是把性命交给他人或机器,明知道司机和机器不是100%安全的。特斯拉不需要达到 100% 安全,它只需要达到大幅超过出租司机的安全性,原则上就可以得到批准上路。何况,这个过程中,V2X 那边也在发展。社会也在进化,随着招之即来挥之即去的无人出租上路,越来越多的人最终会放弃买私家车,路上的机器驾驶比人驾驶越来越多。到了某个时候,除非特别批准,人类驾驶不准上路了,这时候安全性的问题基本消失了。 【相关】 《马斯克的AI牛皮》 《王婆不卖瓜,特斯拉车主说自驾》 《 是特斯拉的自驾AI牛还是马斯克牛? 》 《AI赚钱真心难》 https://ts.la/wei29218 :用这个推荐订购特斯拉,你我都可得到1000英里免费超冲。
个人分类: 立委科普|4896 次阅读|0 个评论
绿色革命的成功与局限及农作制度方法的兴起
FSD 2009-4-8 18:18
  农作制度研发( farming systems research and development, FSRD 或简称为 FSD )方法发端于上世纪 60 年代末 70 年代初,是系统思想( systems thinking/approach/method )进入研发领域后在农业研发领域的发展脉络之一(系统思想与农业科学结合的另一个发展脉络是包括作物模拟模型在内的系统模拟)。    20 世纪 60 年代中期,绿色革命在亚洲和拉丁美洲获得了巨大的成功,为解决世界范围的粮食短缺问题做出了巨大的贡献。绿色革命的核心内容是由位于墨西哥的国际小麦玉米改良中心和位于菲律宾的国际水稻研究所发起的以高产小麦、玉米和水稻新品种为平台进行的栽培措施和种植制度改革。时任国际小麦玉米改良中心主任、被誉为绿色革命之父的 Norman Borlaug 博士因此获得了 1970 年诺贝尔和平奖。但是,绿色革命获得成功是以一定的条件为基础(保证)的( Norman Borlaug 博士的获奖演讲中也提到了这一点)。绿色革命取得成功的背景条件是: 1 、较好的气候(主要是充足的降水,或具备灌溉条件)和土壤条件; 2 、均一和适宜的生产环境; 3 、采用对肥料反应敏感的小麦、水稻和玉米良种为基础; 4 、生产资料和农产品市场的良好发育。   在具备上述条件的亚洲和拉丁美洲的多数地区(后来被称为绿色革命区),绿色革命获得了成功。但是,当人们试图将绿色革命的成果扩大到非洲的大部和亚洲及拉丁美洲的其它地区时,却遇到了意想不到的挫折在那里努力工作的结果没有引发所期望的绿色革命。后来的分析表明,导致这一结果的主要原因是这些地区气候条件不好(降水过多或过少)、缺乏灌溉条件、土壤贫瘠、生产环境恶劣、生产资料和农产品的市场发育极不完善。这些地区后来被称为非绿色革命区。在这样的地区,研发有效的、对农民有吸引力的技术地工作遇到了极大的困难。   在绿色革命区,农民即使把新的成套技术措施落实得不是很到位(比如仅仅使用良种或优质肥料),也能够从所使用的技术中获得一定的效益。而在环境条件较差的非绿色革命区,农民不得不把技术措施做得很到位(如适时地抢墒播种),但所得到的收获往往不能尽如人意,因而这些地区的农民倾向于追求使产量得到少量而稳定增加的技术革新,而不是革命性的变革(即采用全新的技术体系)。绿色革命式的研发和推广方法,即一刀切、一揽子、供给驱动、高度集权,忽视了用户千差万别的不同实际情况。在适合一刀切的地方(条件好、差异小),这样的方法具有效果好、效率高的优势,而在不适合一刀切的地方,会起不到任何作用甚至会产生负面的影响。发展中国家普遍存在着这样的问题,即所推广的、花费了大量研究投入研发的技术与农民的实际情况和需要不相适应的情况,这一现象归因于机械地因循沿袭绿色革命式的研发和推广方法,忽视当地农民、农业的实际情况。   在非绿色革命区使用与绿色革命区相似的技术而不成功的教训,催生了需要技术科学家和社会科学家密切合作的农作制度研发方法。这一方法的产生和发展,源于对以下问题的认识:    1 、充分认识所研究的农作制度对于研发适用的(即符合农民条件、能力、需求的,能够产生效果的,并为相关各方所赞同的)技术措施至关重要,而这只有到实地与相关各方人士和部门进行充分的沟通才能做到,否则就可能会由于误解而产生误导。    2 、农作制度具有多样性和不匀质性,而差异不仅仅是自然的、生物的,还表现为社会的和经济的,(非完全商品化的)小农户尤其如此。由于这些差别的存在,使用套餐式( packaged, blanket recommendation )的技术以及推广方法是不合适的。    3 、对于小农户而言,即使是巨大的进步,如 100% 的增产,也是一个绝对值不大的成果,因此投入要小。    4 、小农户的生产目标与从事商业化生产的农户不同,也和科学家的看法不同。由研究者确定的根据当地自然资源条件使得产出最大化的目标不一定切合农民的实际需要。    5 、 农民在长期的生产实践中形成和积累了一些宝贵的经验,有自己的一套行之有效的应对问题的办法。这些办法有相当的合理性,在设计新的技术方案是不应忽视这些有用的经验和知识(所谓的本土知识, indigenous knowledge )。    6 、试验站的条件和农民家里的农田条件存在很大不同,农民和研究人员所用标准的存在巨大差别。研究人员在试验田所做的和能够做到的,与农民在自己的地里所做的和所能做到的有巨大的差别,因此需要改变技术设计和评价的方法。    7 、对于技术研发的成效,由社会科学家单独进行的事后评价是没有意义的,应该由技术科学家和社会科学家以跨学科的方法进行技术研发和成效的评价。    8 、农户有进行改革和学习新事物的愿望,但需要用他们乐于接受的方式,进行小规模的试验使之适应他们自己的实际情况。    9 、农业技术科学家、社会科学家、农民和政策制定者看待同一个客观事物会有不同的立场和视角,因而有不同的认识和观点。    10 、农作制度研发是农业研发工作的基本单元。    11 、研发工作需要在深度和广度上找平衡,定性和定量方法并用,最大效率(节省资金)地解决问题;    12 、跨学科研究有相当的难度,需要开发新的方法和进行能力建设;    13 、应重视经验教训的价值; 农作制度研发方法的形成融合了社会、生态和农学等等相关学科的贡献。它注重技术与人文因素的相互依存和相互作用,借鉴了乡村发展、农场管理经济学、系统(思维)方法和农学的理论,将经济学家的观点和农艺上的考虑综合起来,并与农民一起工作来发现问题和提出解决的方法。   农作制度研发方法的发展受到了三大因素的重要影响:一是强化农民的参与;二是认识到了所采取的措施要对针对不同的情况的重要性;三是强调可持续、性别和自然资源的管理问题。   亚洲农作制度研发产生的支柱,是 60 年代中期开始的种植制度研究 (cropping systems research) 。随着应用范围的拓宽,种植制度研究的范围不断扩大,但适用技术研发始终是其核心内容。   农业研发工作中不乏反面的例子,这些负面典型都是忽略了当地具体条件和研发工作的最终目的而犯了 Ugly American 的错误。其中一个著名的例子就是上个世纪 60 年代由美国的学术界组成的一个叫做 have tools will travel 的团队推动的在小农场应用线性规划的尝试 这一尝试从未对发展中国家的农业产生任何实际影响,其失败的主要原因,是需要花费大量的人力物力收集很难准确的数据,而从极小的生产规模即使获得的很大的收益,也难以与其巨大的投入取得平衡。   大学里的专家在农作制度研发方法的发展过程中起了主要的领导作用。 Norman Borlaug 博士 的获奖演讲可从以下地址阅读:
个人分类: Articles on FSD|2686 次阅读|0 个评论
我对农作制度研发方法的认识过程
FSD 2009-3-16 18:15
我对农作制度研发方法的认识,是一个由拒绝到接受、由片面到全面、由误解到入门的过程。虽然这一过程经历了十年的时间,但与农业科学家从困惑中逐步总结出这个方法所经历的时间和曲折相比,还算是顺利和短暂的。 1999 年初秋,当时在堪萨斯州立大学做访问学者的一位同事告诉我,该大学一位做农作制度工作的教授即将访问中国,问我是否有兴趣把他邀请到学校,我回信说非常愿意,于是那位同事把 David Norman 教授的 Email 地址和业务简历发给了我。我给 Norman 教授发了一个 Email ,告诉了他我的研究、教学领域和邀请他的愿望,老先生非常热情地回了一个 Email ,但因为时间安排非常紧张,不能来学校,建议设法在北京见面,并周到地进行了一些协调、做好了见面的相应安排。数周后,在北京友谊宾馆,我和教授进行了将近 1 个小时的谈话(原来说给我 30 分钟),知道这次他是来对大陆几个洛克菲勒基金资助的研究项目进行评估的。谈话中老先生提到来年( 2000 年)将要在智利的圣地亚哥举办第 16 届国际农作制度学术会议,问我是否有兴趣参加,他可以推荐我获得资助,只要我写一篇文章即可。我当然求之不得。 经 Norman 教授推荐,由美国得克萨斯农工大学( Texas AM University )国际合作中心全额资助(包括国际机票、当地交通、食宿、购买书籍、注册、参加田间考察等全部费用), 2000 年 11 月我参加了在智利圣地亚哥举行的第 16 届国际农作制度协会 (IFSA) 学术大会,提交的论文题目是 Toward harder farming systems research and development 。我用这个题目的原因,一是以我的耕作学(国内把耕作制度翻译成 faming systems )背景理解农作制度 (faming systems) 研究,二是把国内一些属于农作制度描述诊断阶段的工作误解为农作制度研发工作的全部,因此觉得农作制度研究方法太软,需要硬起来,于是写了这样一篇文章。会议的组织者特意安排我做了一个发言,发言后主持人祝贺、听众鼓掌,当时自我感觉很不错,但随着以后自己对农作制度方法了解的逐渐全面和深入,意识到此农作制度非彼农作制度,越来越觉得不好意思。会议期间稀里糊涂地参加了一个座谈会,事后问 Norman 教授才知道那是 ICRA ( International Center for development oriented Research in Agriculture ,国际发展导向农业研究中心) alumni (学友)座谈会。会上还认识了来自法国的 Michel Fok 博士, 2003 起开始了与他多年的合作,此是后话。从会议上带回来的半行李箱的书籍资料中,包括 Norman 教授、 F.D.Worman 、 T.D. Siebert 和 E.Modiakgotla 编著的《 The farming systems approach to development and appropriate technology generation 》等粮农组织农作制度丛书系列以及 M. Collinson 主编的集农作制度方法发展之精要的《 A history of farming systems research 》。以这些资料为基础,翌年为硕士研究生开设了农作制度课程,教学相长,自己对农作制度方法的认识逐渐得到提高。 2002 年 1 月 14 日至 7 月 25 日,再次经 Norman 教授推荐,由德国国际发展合作基金( DSE )全额资助,我到国际发展导向农业研究中心( ICRA ,荷兰瓦赫宁根)进行了为期 6 个半月的学习研究,期间赴埃塞俄比亚进行 3 个月的食物保障 (food security ,亦译粮食安全 ) 问题的调研。在 ICRA 期间,系统地学习了系统分析方法、参与式发展(开发)、团队工作、跨学科方法、问题与机遇分析、研发策略的筛选等,但并没有意识到 ARD 方法与 FSD 方法的关系 / 渊源,只是从 Richard Hawkins 博士那里隐约了解到是几个从事农作制度工作的同行发起创立了 ARD 方法并设计了 ICRA 的学习内容。回国后,以 ICRA 的材料为基础,为研究生(主要针对博士生)开设了农业研发原理与方法课程。 2002 年底,经当时在以色列农业部工作的 Cohen 先生(可能还有耶路撒冷大学教授 Tsur 博士)提名,由以色列外交部国际合作中心( CINADCO )全额资助,赴以色列参加了为期一个月的 Agribusiness for rural and peri-urban development 培训班,并对以色列农业的各个产业链环节进行了典型考察,遍访以色列全境。这一学习考察经历,进一步加深了对系统方法、软 - 硬关系的认识,更加深刻地体会到了克服思维定势、保持开放头脑的重要性。 中国耕作制度研究会邀请 David Norman 教授于 2007 年 8 月在呼和浩特举办了为期 4 天的农作制度方法培训和交流活动,我负责主要的联络、翻译工作。这次活动虽然因为时间很短,不可能使大家对农作制度方法有一个全面、系统、深入的了解,但把基本内容介绍给了大家,起到了预期的介绍、推动作用。就我个人而言,除了通过完成具体的工作对这一方法的认识又加深了一层以外,还深切地体会到了我国的农业科技工作者对这一方法的陌生和误解、为什么我们的研究成果与实际应用存在巨大的差距。 以上经历加上自己教学、科研和接触生产实际过程中的思考,对于我逐步加深对农作制度研发方法的理解非常重要,比如,为什么要跨学科,为什么要参与。以后我会逐步介绍农作制度研发方法的具体内容,这里不再赘述,只想说明三点:第一, FSD 方法不仅仅是扶贫的方法,虽然它可以通过研发适用的技术帮助农民战胜饥饿和摆脱贫困或者象有关部门提出政策性的建议。第二, FSD 方法不仅是适用于非洲等特贫地区的方法,世界上很多地方、包括发达国家也在运用这一方法。第三, FSD 方法在绝大部分意义上不是技术推广的方法,虽然它的工作成果要进行推广并且是是为了更好地推广适用技术。当然,这一方法还有进一步发展和改进的余地,特备是在如何根据中国的国情进行必要的方法论和具体方法的调整方面,需要做一些切实的工作。 籍此机会向 Norman 教授 一个不计名利、 为消除人类的饥饿和极端贫困 现象辛劳 了大半生的学者 致以深深的敬意和衷心的 感谢 ,遥祝他健康、幸福!
个人分类: Articles on FSD|4072 次阅读|0 个评论

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-16 18:53

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部