温贺的博客分享 http://blog.sciencenet.cn/u/wenhe716 安全工程领域学术与杂谈

博文

安全科学领域的一个新前沿——人与自动化系统的冲突 精选

已有 2127 次阅读 2022-8-10 23:59 |系统分类:观点评述

对于工业4.0或第四次工业革命,一个比较广泛的共识是工业的数字化和智能化。在这个过程中,会不会出现新的安全风险或危险源呢?

第一反应是,工业过程更加自动化了,甚至大量的自动设备、机器臂开始取代人工,尤其是在自动驾驶领域,Waymo和百度都已经推出了无人驾驶出租车,似乎工作场景中不再会有人受到伤害的可能。

但是,数字化有一个很明显的特征——机器变得更加智能。那么,机器替你采取了行动,而这个行动并不是你想要的,这就很糟了。比如波音737 Max事故,不太严谨地简单而言,就是飞机的自动驾驶系统压着机头俯冲下去了,而这个过程中,飞行员和自动驾驶系统发生了激烈的冲突。

Slide4.JPG

好了,人和自动化系统之间的冲突,这就是一个新的场景,也是安全科学需要研究的一个新前沿。

笔者的一篇新文章刚刚发表,《从安全角度评估人机自动化系统冲突的方法》。

https://www.researchgate.net/publication/362244184_A_Methodology_to_Assess_Human-Automated_System_Conflict_from_Safety_Perspective

在以往的观点中,这种冲突常被归类为故障,这把具备智能决策的机器归类为普通机器,但两者是有显著区别的。冲突属于一个人文领域的术语,一般是两个人或组织之间。而自动化系统显然具有一定的拟人性,这种人与自动化系统之间的冲突应该引起重视。

Slide7.JPG

在本论文发表的过程中有一个小插曲,编辑一共邀请了6个审稿人,这是极罕见的。一审返回了近200条comments,其中2个专家十分推崇,3个专家提出一些质疑,最后一位专家全盘否定。整个审稿和修改的过程,像是一次激烈的讨论甚至辩论。感谢这些审稿人,让这个研究课题stronger。


本文由温贺于2022-8-10首发于科学网,未经许可,禁止转载。



https://m.sciencenet.cn/blog-3523098-1350736.html

上一篇:美国职业安全健康史上的两位伟大女性
下一篇:聊聊美加的安全工程师工资

2 程少堂 许培扬

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2022-9-28 10:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部