twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

什么是自主系统?

已有 1439 次阅读 2022-11-27 10:01 |个人分类:2022|系统分类:科研笔记

根据系统在三个方面的属性(即熟练性、可信赖性和灵活性)定义了一个自主系统:

一个自主系统的设计应确保在作战期间,在给定的环境、任务以及设想的队友之中的熟练性。理想的熟练性属性包括现场智能性、自适应认知、多智能体突现,以及从经验中学习。

一个自主系统的设计应确保在由其人类同行操作或与之合作时的信任。理想的信任原则包括认知一致性和透明度、态势感知、有效的人与多系统集成,以及人-系统团队合作和训练。

一个自主系统应在其行为、团队合作和决策方面表现出灵活性。理想的灵活性原则所包括的灵活性体现在能够执行不同任务、在不同的点对点关系下工作,并采取不同认知方法来解决问题等方面。

我们相信,如果我们要在空军中有效地部署和使用自主系统,所有这些方面都需要在一定程度上得到满足。另种说法是,如果不能在所有三个方面满足设计的空间,就会导致部署自主系统的失败:熟练性低将导致使用其他系统,可信赖性低将导致停止使用,而灵活性低将导致自主系统无法在变化的、在设计阶段可能未设想到的环境中展示真正的自主性。

一个自然的问题是,这些方面是否对系统拥有多少(或哪个级别的)自主性有任何意义。答案是否定的。从目的来看,并没有打算使用这三个方面来定义或指导自主级别的一些概念。这只是因为还不明确这是否是一个有用的构想,这一点在本文以及本文引用的早期研究中都已讨论过。

我们现在讨论一些自主系统的常见问题。

B.1一般概念

什么是智能?什么是人工智能?

智能是收集观察结果、创造知识并适当地运用这些知识来完成任务的能力。人工智能是一种拥有智能的机器。

什么是自主系统的内部表示?

目前的自主系统被编程为使用不同的过程来完成任务。自主系统的内部表示是智能体构建其对世界的了解、其知识(自主系统用来进行观察和产生含义的东西)的方式,以及智能体构建其合义和其理解的方式,例如,自主系统内部用于其知识库的编程模型。随着自主系统获得更多的知识,或者随着自主系统进一步操纵现有知识以创造新的知识,知识库可能会发生变化。

什么是含义?机器会产生含义吗?

含义是一个人或自主系统的内部表示中因一些刺激物而改变的东西。它是刺激物对那个人或系统的含义。当你(一个人)看着一面美国国旗时,它在你身上唤起的一系列思想和情绪就是那一时刻这种经历对你的含义。当向一个自主系统显示这幅图像时,如果其像素密度在自主系统的软件中引起了一些经过编程的变化,那么这就是那面国旗对该自主系统的含义。在这里我们看到,自主系统产生含义的方式与人类的方式是完全不同的。作为其编程方式的结果,自主系统内部表示中的变化就是对该自主系统的含义。一个刺激物的含义就是由该刺激物在该智能体(人或自主系统)中所引起的、特定于智能体的表示上的变化。由数据引起的表示上的更新就是该刺激物对该智能体的含义。含义不仅仅是将数据放到表示中;它是表示的所有产生的变化。例如,默会知识的唤起,或进行中的模拟(意识;见下文)的修改,甚至因刺激导致的智能体知识的更新,都被纳入某个刺激物给某个智能体的含义中。含义不是静态的,会随着时间的推移而发生变化。对于某个给定的智能体,一个刺激物的含义是不同的,这取决于它何时被提供给该智能体。

什么是理解?机器能理解吗?

后续更精彩,详见微信公众号:人机与认知实验室




https://m.sciencenet.cn/blog-40841-1365483.html

上一篇:后记
下一篇:《少年科学画报》中的人机混合智能

2 孙颉 杨正瓴

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-28 20:08

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部