两种类型的人工智能

武夷山

Interdisciplinary Science Reviews（交叉科学评论）季刊2023年1月18日线上发表了英国剑桥大学计算机科学与技术系Alan F. Blackwell教授的文章，The two kinds of artificial intelligence, or how not to confuse objects and subjects（两种类型的人工智能，或如何别混淆客体与主体）。原文见https://www.tandfonline.com/doi/full/10.1080/03080188.2022.2158258?src=。

作者概括了本文的主要观点：

简而言之，我打算论证说，将AI的本质视为想象中的未来技术，甚至视为对当今诸多问题的半魔幻的营销解决方案，其实是对这些AI系统之技术运作的误解。我尤其想论证说，该误解正是源自对各种认识之混淆——对控制论的认识，对机器学习的认识，对心理学的认识，对人之为人的含义的认识。

作者接着区分了客体型和主体型的人工智能：

我描述为客体型人工智能之原理，工程师们已对之有数百年的认识——伺服机构指的是任何一种器件设备，它以某种方式“观察世界”，“作用”于世界，并能以不同方式（取决于其观察到的东西）“决定”如何“行动”。

 ……

伺服机构的表观智能不是表现在其机械动作或观察,而在于其以何种方式来改变行为(行动)。

……

我希望这就说清了我所谓“客体”型AI的性质。它测度世界，根据某些数学原理采取行动，它也许是非常复杂甚至是不可预测的，但我们没有必要将其视为主体型的智能代理。

另一种类型的AI（主体型AI）是根据非常不同的原理构建的。它采用“机器学习”原理，即搜集巨量数据来“训练”一个手头的模型。可以采用各种训练算法，包括神经网络之类的进路，其任务是统计某些数据是多么频繁地与其他数据相关联。近年来，相关数据总量变得非常大，大到难以想象的地步，与此同时，某条具体的数据又可能是非常小（一帧照片上的一个像素，几乎听不见的喀嚓声，或维基百科数以十亿计词条中的某一个单词）。那么，这些微小元素之间的可能关联之数目达到万亿级的规模，因此，人是永远无法理解它们表征了什么的。

……

作者认为，有效的AI研究要回答以下问题：

首先，在任何给定情境或问题中，智能行动的精准性和评价之“ground truth”（参考标准）是什么？是机械测量，还是依赖于人类判断和共识的社会情境？

其次，如果涉及明确的机械测量，就一定要询问：这种客观测量到底能回答什么样的问题？

再次，如果一个AI系统的目的其实是较经济地复制人类行为（或曰自动化）。我们就需要询问：做这件事在何时是适当的，为什么说是适当的？

第四，通过比较人能做什么，机器能做什么，我们也许能推进人类认知的研究。

最后，总有一些AI研究人员，他们的研究动机是通过构建人类的表征来洞察人类状况（博主：而不是创造经济效益）。这一目标与文学、绘画、雕塑和美术的其他许多分支的目标其实是一样的。

所有这些交叉科学领域发出了有趣的、激动人心的挑战，它将大大得益于更合适的学科参考框架、分析术语和研究方法。