博文
电脑人心 之 引言（九）原则争论
||||
上回给了AI一个及格上下的成绩。其实，在AI这60年的身世里面，有过不少远亲近邻自任裁判员、评论员、解说员、批评家的叽叽喳喳。他们要是给分的话，很多人给的分将会高的多，甚至接近满分，因为他们大体上认为电脑人心的基本方面已经有谱了；也有很多人给的分都要低得多，甚至接近于0分。俺也在这里也凑了凑热闹，嗡嗡了一把。
分数差别巨大不是意外，因为六十年来，关于电脑人心可能性可以说一直是众说纷纭，辩论一直就没有停止过。
有说电脑可以做很多很多的事情的，比如将能够跟人进行流畅的对话。图灵同志爸爸就是持这种观点。
还有人认为电脑无所不能，乃至说，世界的本质是计算、是信息处理，电脑人心就更不在话下了。Stephen Wolfram大致持这种观点。
有说电脑不能做很多事情的。比如德雷福斯（Hubert Dreyfus）就觉得电脑不能对付（cope）事情，尤其是打酱油之类的事情。
有说电脑其实根本就不可能理解中文的。比如塞尔（John Searle）就设想即使有台电脑，能够允许我们随意地跟它用中文对话，也不会对中文有任何理解，因为作为电脑，它将只能模拟，而不会有事实上的参与。
有说人能做电脑不能做的事情的。比如卢卡斯（John Lukas）就认为哥德尔不完全性定理的结论意味着存在人可以理解而机器却不可能理解的东西，比如哥德尔句子为真这样的事实。
更有甚者（比如van Gelder）声称，电脑在原则上还不如蒸汽机的，因为蒸汽机和它做事的领域是紧密相连的，而电脑那离散化的符号表示和操纵却把认知的实质给漏掉了。
还有的人论证说，即使电脑能做一切事情人能做的事情，那它也不过是个空壳子，只是行为相似，没人心住在里面，没有感知，不会觉到红是红、绿是绿的”感受质”（qualia）。
再有就是那些“技术奇点”论者，认为电脑单靠速度、容量和复杂性，终有一天、甚至几十年之内很快就要超越人类了。
如此等等，不一而足。
那么，货真价实的电脑人心究竟可不可能？今天的小学生会不会有一天要与之共处？即使今天电脑人心的可能性看起来还不是太大，这种可能性会不会随着技术进步而增加呢？还是说从原则上讲就不可能呢？
我写这个系列，就是想要针对这些问题，提供一个论坛，一个讨论场所，以关于人工智能可能性的经典辩论为基础，争取覆盖其间的主要问题。让正方、反方、怀疑方、观望方都能各抒己见，现身说法；力求原汁原味，以便见智见仁。由此争取梳理一些比较关键的东西来，为思考人工智能和认知科学里面的一些基本问题提供一点材料、若干视角。
在开始之前，先有必要说明我的一个偏见。这事关对电脑的态度。
要真正判断电脑人心是否可能，必须充分理解电脑和人心这两个方面。理解人心──这是哲学和心理学的传统地盘。在这里我们大体可以倚仗几千年来东西方的思想积淀，不管是其间的洞察也好，还是迷糊也好，至少通过这些积淀，大家都知道人心的复杂性是很了不得的。所以，我们对于人心的认识，是不太容易被过分简单化的。
然而，对于电脑，简单化的趋向则很容易发生。人们往往会觉得：什么是电脑？什么才算电脑？电脑如何工作？能做什么？带来了什么样的可能性？它不能做什么？有什么样的局限性？电脑在人类历史上究竟正在扮演着什么样的角色？这些问题的答案如果不是已经很清楚，不是不言自明的，也不难寻找。
我的偏见就是：不能假设我们理解电脑了。理解电脑其实涉及很多新问题和老问题的新形态。而在上面这些问题上，我们其实还只是小学生，甚至是学前班的娃娃们。
请注意：千万不要以为既然电脑是人造出来的，我们就一定很理解它们。儿女也是父母“造”出来的，那父母就因此一定了解儿女吗？因此，为了严防先入之见，以便对得起电脑们的真材实料，俺将会当仁不让，自任为电脑们的代表，冷眼旁观每场讨论。我将会特别注意讨论各方是如何理解、是否真正理解电脑这东东的。
这样说来比较抽象。让我们来考虑在讨论电脑人心的可能性的时候，经常会遇到一种论证模式吧：
人是A
计算机不是A
────────────────
因此人工智能不可能
具体一点，假如A在这里是连续性，这个论证就是：
人是连续的
计算机是离散的，而非连续的
─────────────────────
因此人工智能不可能
再比如，假设A是创造性，这个论证就是：
人有创造性
计算机做的一切不过是遵照程序指令而已，没有创造性
─────────────────────────────────────
因此人工智能不可能
这样的论证虽然表面上简单明了，但实际上是问题多多。首先，这样的论证没有说明A这种属性对于人心是必要的，没有说明为什么如果没有A的话，要想有人心是没门儿的事。所以，A不应该是：“有头发”。那么，如果A是“连续性”？这就有个问题要回答：为什么连续性对于人心是必要的呢？类似地，为什么创造性对于人心是必要的呢？
当然，如前面所说，关于人心特点的争议可能相对会少一些。比较成问题的是“计算机确实是非A”这一论断。不管有多显然，这样的论断其实是非常需要论证的。
比如，计算机是离散的吗？这一点真的是那么显然的吗？恐怕不一定吧。（俺很快会发个博文专门讨论这一点。）而且，即使计算机确实是离散的，离散和连续真的是互相排斥的吗？是离散，就不可能也是连续的吗？还是说离散和连续其实是互相依存的［link］呢。
再比如创造性。为什么遵照程序指令就不会有创造性呢？卡斯帕洛夫不是也说他觉得“深蓝”有创造性。这又是为什么呢？这里面有没有层次上的区别呢？人难道不遵照指令吗？人至少按规矩行事吧。由此就说明人没有创造性吗？如果在离散与连续的问题上，我们经常把层次混淆。那么在创造性的问题上我们就不会吗？
在这里指出这些问题，是为了表明情况或许比我们有时候想象的要复杂很多，也就要好玩很多。
https://m.sciencenet.cn/blog-453866-348201.html
上一篇：世界是连续的，还是离散的？概念篇
下一篇：世界是连续的，还是离散的？太极篇（兼谈如何突破非黑即白）
分数差别巨大不是意外，因为六十年来，关于电脑人心可能性可以说一直是众说纷纭，辩论一直就没有停止过。
有说电脑可以做很多很多的事情的，比如将能够跟人进行流畅的对话。图灵同志爸爸就是持这种观点。
还有人认为电脑无所不能，乃至说，世界的本质是计算、是信息处理，电脑人心就更不在话下了。Stephen Wolfram大致持这种观点。
有说电脑不能做很多事情的。比如德雷福斯（Hubert Dreyfus）就觉得电脑不能对付（cope）事情，尤其是打酱油之类的事情。
有说电脑其实根本就不可能理解中文的。比如塞尔（John Searle）就设想即使有台电脑，能够允许我们随意地跟它用中文对话，也不会对中文有任何理解，因为作为电脑，它将只能模拟，而不会有事实上的参与。
有说人能做电脑不能做的事情的。比如卢卡斯（John Lukas）就认为哥德尔不完全性定理的结论意味着存在人可以理解而机器却不可能理解的东西，比如哥德尔句子为真这样的事实。
更有甚者（比如van Gelder）声称，电脑在原则上还不如蒸汽机的，因为蒸汽机和它做事的领域是紧密相连的，而电脑那离散化的符号表示和操纵却把认知的实质给漏掉了。
还有的人论证说，即使电脑能做一切事情人能做的事情，那它也不过是个空壳子，只是行为相似，没人心住在里面，没有感知，不会觉到红是红、绿是绿的”感受质”（qualia）。
再有就是那些“技术奇点”论者，认为电脑单靠速度、容量和复杂性，终有一天、甚至几十年之内很快就要超越人类了。
如此等等，不一而足。
那么，货真价实的电脑人心究竟可不可能？今天的小学生会不会有一天要与之共处？即使今天电脑人心的可能性看起来还不是太大，这种可能性会不会随着技术进步而增加呢？还是说从原则上讲就不可能呢？
我写这个系列，就是想要针对这些问题，提供一个论坛，一个讨论场所，以关于人工智能可能性的经典辩论为基础，争取覆盖其间的主要问题。让正方、反方、怀疑方、观望方都能各抒己见，现身说法；力求原汁原味，以便见智见仁。由此争取梳理一些比较关键的东西来，为思考人工智能和认知科学里面的一些基本问题提供一点材料、若干视角。
在开始之前，先有必要说明我的一个偏见。这事关对电脑的态度。
要真正判断电脑人心是否可能，必须充分理解电脑和人心这两个方面。理解人心──这是哲学和心理学的传统地盘。在这里我们大体可以倚仗几千年来东西方的思想积淀，不管是其间的洞察也好，还是迷糊也好，至少通过这些积淀，大家都知道人心的复杂性是很了不得的。所以，我们对于人心的认识，是不太容易被过分简单化的。
然而，对于电脑，简单化的趋向则很容易发生。人们往往会觉得：什么是电脑？什么才算电脑？电脑如何工作？能做什么？带来了什么样的可能性？它不能做什么？有什么样的局限性？电脑在人类历史上究竟正在扮演着什么样的角色？这些问题的答案如果不是已经很清楚，不是不言自明的，也不难寻找。
我的偏见就是：不能假设我们理解电脑了。理解电脑其实涉及很多新问题和老问题的新形态。而在上面这些问题上，我们其实还只是小学生，甚至是学前班的娃娃们。
请注意：千万不要以为既然电脑是人造出来的，我们就一定很理解它们。儿女也是父母“造”出来的，那父母就因此一定了解儿女吗？因此，为了严防先入之见，以便对得起电脑们的真材实料，俺将会当仁不让，自任为电脑们的代表，冷眼旁观每场讨论。我将会特别注意讨论各方是如何理解、是否真正理解电脑这东东的。
这样说来比较抽象。让我们来考虑在讨论电脑人心的可能性的时候，经常会遇到一种论证模式吧：
人是A
计算机不是A
────────────────
因此人工智能不可能
具体一点，假如A在这里是连续性，这个论证就是：
人是连续的
计算机是离散的，而非连续的
─────────────────────
因此人工智能不可能
再比如，假设A是创造性，这个论证就是：
人有创造性
计算机做的一切不过是遵照程序指令而已，没有创造性
─────────────────────────────────────
因此人工智能不可能
这样的论证虽然表面上简单明了，但实际上是问题多多。首先，这样的论证没有说明A这种属性对于人心是必要的，没有说明为什么如果没有A的话，要想有人心是没门儿的事。所以，A不应该是：“有头发”。那么，如果A是“连续性”？这就有个问题要回答：为什么连续性对于人心是必要的呢？类似地，为什么创造性对于人心是必要的呢？
当然，如前面所说，关于人心特点的争议可能相对会少一些。比较成问题的是“计算机确实是非A”这一论断。不管有多显然，这样的论断其实是非常需要论证的。
比如，计算机是离散的吗？这一点真的是那么显然的吗？恐怕不一定吧。（俺很快会发个博文专门讨论这一点。）而且，即使计算机确实是离散的，离散和连续真的是互相排斥的吗？是离散，就不可能也是连续的吗？还是说离散和连续其实是互相依存的［link］呢。
再比如创造性。为什么遵照程序指令就不会有创造性呢？卡斯帕洛夫不是也说他觉得“深蓝”有创造性。这又是为什么呢？这里面有没有层次上的区别呢？人难道不遵照指令吗？人至少按规矩行事吧。由此就说明人没有创造性吗？如果在离散与连续的问题上，我们经常把层次混淆。那么在创造性的问题上我们就不会吗？
在这里指出这些问题，是为了表明情况或许比我们有时候想象的要复杂很多，也就要好玩很多。
https://m.sciencenet.cn/blog-453866-348201.html
上一篇：世界是连续的，还是离散的？概念篇
下一篇：世界是连续的，还是离散的？太极篇（兼谈如何突破非黑即白）
