都世民
AI出租车”司机”为何逃逸?
2022-4-15 16:14
阅读:2264

AI出租车”司机”为何逃逸

都世民

摘要:我們主要討論最近發生的AI出租車司機逃逸事件。警察攔截有沒有問AI出租車的設計有沒有漏洞?

關鍵詞:AI,出租車,交通法規,自動駕駛車的安全性。

 

2022-04-12,据美国媒体报道:愚人节当晚,在美国旧金山上演了史上第一场无人驾驶汽车被警察截停后逃逸的事件,画面十分爆笑。令人不解?!

為什麼令人不解?

自动驾驶技术的开发和应用,在一些國家都在試運行。有人预见总有一天,大量的自动驾驶汽车将穿梭于美繁華城市街道和高速公路上。上述事件的發生引发了一些重大问题:

〔1〕计算机能否与人类驾驶员的安全性和直觉相匹配?電腦會不會超過人腦?

〔2〕我们是否需要重新思改進道路的设计?

〔3〕美國推出的自動駕駛是現代社會的必須嗎?

 

 

 

图源:外媒

〔4〕当一辆自动驾驶汽车触犯法律或发生碰撞后,将怎么处理以及该让谁负责,这并不是一个新问题。2018年,一名行人被正在测试的网约车公司自动驾驶汽车撞死,那次车祸中的副司机被指控為過失殺人。

〔4〕当一辆自动驾驶汽车触犯法律或发生碰撞后,将怎么处理以及该让谁负责,这并不是一个新问题。2018年,一名行人被正在测试的网约车公司自动驾驶汽车撞死,那次车祸中的后备司机被指控过失杀人。

〔5〕當無人駕駛出租車上路前,首先應該制定相關法律。給每一位交警進行訓練。考核上崗。另外所有的攝像頭,應能夠區分有人和無人的車輛。并且迅速通知交警。否則這種尷尬的局面無法消除。

〔6〕事发后有网友对AI无人驾驶车的安全持怀疑态度:「家里的传感器都知道天黑要开灯,对于不知道天黑需要开灯的无人车,人们怎么相信它的AI司机能判读出行人是什么?」

美國交警為什麼攔截AI出租汽車?

Cruise公司的一位发言人告诉“商业内幕”,4月1日这辆车因为没有打开前灯而被警察拦下。该公司在推特上发声明表示,这正是Cruise汽车的编程行为。发言人認為,“我们的自动驾驶汽车是给警车让路,再按設置将车停在附近的安全地点。”一名警官联系了Cruise的工作人员,但没有开出罚单。

這難道是交警攔截錯了嗎?显然有一些细节問題需要搞清楚。

〔1〕当一辆无人驾驶汽车被拦下时会发生什么?

〔2〕本月早些时候就发生了这样一件事。旧金山警察截停了一辆出租车后,发现里面没有人,后来发现那是一辆无人驾驶汽车。警察是否會懷疑開車人藏起來了?或者是小孩開車。他登下去了。所以警察攔截。

〔3〕通用汽车(General Motors)的子公司Cruise,今年二月在旧金山市区,推出无人驾驶出租车服务,用户在晚上10点到早上6点之间,可通过应用程序约定搭乘。

视频爆料一辆无人驾驶出租车被警察攔截,要求停在路边。一名警察下车,走到驾驶员一侧,试着打开车门。旁观者喊了起來:“里面没有人!”这辆出租车突然向前驶过一个十字路口,然后再次停车,这一次,它的危险信号灯亮了。是怎麼回事兒呢?警察也糊塗了。

〔4〕是出租車不懂得交警的信號嗎?這被警察攔截後仍有人開動。是想逃逸?

〔5〕警察糊塗了,是否表明交通法規不健全?出租車车顶上安装了大量传感器,就對出於其來的情況,不知怎麼去處置?是不是無人駕駛設計本身出了問題?

〔6〕在一份声明中,旧金山警察局表示,拦停事件发生在晚上10点左右,在与Cruise公司联系后,一个维修小组来處置、控制了这辆车。這表明這輛出租車還是有問題。

 

图源:外媒

〔7〕Cruise拿到的许可是有限制:必须有安全员以备接管,大雾和大雨天气条件下,均不得运行。在每天晚上10点到次日早上6点,在旧金山的部分道路上提供限速为30码的服务。

〔8〕为何Cruise的无人车辆,在不开前灯的情况下运行?此原因仍未被其自行公布。

业界猜测,可能Robotaxi的自动大灯功能被禁用或車頂上传感器未能检测到周围的黑暗环境。也就是說出租車的設計存在漏項。傳感器對各種環境不能夠自適應。

〔9〕关于AI出租車「逃逸」的原因,有分析认为,Cruise的第一次停车是因为在等红灯。绿灯亮了之后,它本来是要继续前行,却因为警察已经靠近,触发了传感器。系统判定不能启动。而在警察远离后,系统判定警报解除了,于是重新启动。如果是这样的话,显然,Cruise的无人驾驶AI并不能理解警察處理交通違規。

〔10〕AI司机交通违法,居然可以免罚单?也許有一天。,AI开始替代人类送货、客运线路和其他所有的人类司机角色,AI司机經常与警察发生冲突,那時就為時已晚。

https://baijiahao.baidu.com/s?id=1729906045770749993&wfr=spider&for=pc


转载本文请联系原作者获取授权,同时请注明本文来自都世民科学网博客。

链接地址:https://m.sciencenet.cn/blog-1339385-1334047.html?mobile=1

收藏

分享到:

当前推荐数:0
推荐到博客首页
网友评论0 条评论
确定删除指定的回复吗?
确定删除本博文吗?