精选
大模型可能带来的五大危害不可不察
大模型是最近人工智能技术的热点中的热点。开口不谈大模型，似乎就不懂人工智能了。我们人类通过购买大量的GPU卡，搜集大量的训练数据，采用大量的训练，终于创造了一个无所不知的“神灵“。他有问必答，能写会说，上知天文、下知地理，古今中外、无所不知，类似于古龙小说中的百晓生和三国演义中的诸葛亮。我们有什么问题都可以问它，它都能给出一些有条理的合理建议。
大模型好像还有智商，不仅可以参加各种考试，还可以创作语音、图片和视频，可以很容易创造大量以假乱真的信息，让人真假难辨。 赵本山可以讲流利的英语，奥巴马可以讲流畅的中文，口型都能对得上，惟妙惟肖。大模型是否有真正的智能，我们暂且不论。但是，大模型却可能给我们人类社会带来巨大危害，主要体现在以下5个方面。
首先，大投入。OpenAI的主要投资者微软投入数亿美元资金为OpenAI打造了一套超算系统，由上万颗单价为数万美元英伟达A100芯片组成。依靠大量投入实现的所谓大模型，过几年后，也许会发现现在的技术路线也许是错的，有更好的解决方案。那么，现在大量的投入将打了水漂。所以，跟进大模型要小心谨慎，不能一哄而上。
其次，大能耗。Open AI为训练ChatGPT提供了3640PF-days的算力消耗（即假如每秒计算一千万亿次、连续计算3640天），消耗了巨大的电能。以前2年数据翻一倍，有了大模型，可以快速生成文本、语音和视频，估计以后一年数据要翻2倍。 据统计，现在的大模型已经消耗了约5%的人类电力，而且还在快速增长中，是难以持续的，不符合社会可持续发展的理念。
第三，大侵权。大模型采用网络上大量的数据进行训练学习，其输出结果融合了各家的数据和观点，已经很难分清楚是侵谁的权了。尤其，能快速生成大量的文字、语音、图片和视频，使得网上的虚假信息将远远超过真实信息，网络监管的难度因此大大增加。“耳听为虚，眼见为实”，已经变成了“一切皆虚，难信为实”，大模型将导致信息虚无主义。
第四 大失业。有了大模型将导致大批从事脑力劳动的人员失业，比如文秘、绘画师、视频剪接工作者，甚至编程人员。财富将进一步聚集到OpenAI这类号称非盈利的公司，其盈利将惊人，一年会费收入可能超过8年研发投入，此后更是一发不可收拾。大量失业人员将对经济消费、社会稳定造成严重的危害。
最后，大偷懒。大模型最大的危害也许是带来整体人类的偷懒，不愿意动脑思考，啥都要问大模型，让大模型帮助自己解决问题。用进废退，久而久之，人类的思考能力、写作能力、想象能力、计算能力、推理能力等将大大退化。虽然目前大模型还没有自我意识，但是未来谁也不好说。假设100年后，人类的智商集体下降到现在的10%。到时候，大模型进化出了自我意识才真正可怕，人类的未来堪忧。
总而言之，人类要居安思危看待大模型这类所谓颠覆性技术。技术都是双刃剑，就看我们人类怎么合理使用，千万不要盲目发展，以免引火烧身。
转载本文请联系原作者获取授权，同时请注明本文来自陈德旺科学网博客。
链接地址：https://m.sciencenet.cn/blog-57940-1412633.html?mobile=1
收藏
