氢分子医学分享 http://blog.sciencenet.cn/u/孙学军 对氢气生物学效应感兴趣者。可合作研究:sunxjk@hotmail.com 微信 hydrogen_thinker

博文

读脑术来了,吓不吓人? 精选

已有 4903 次阅读 2023-5-4 07:31 |系统分类:海外观察

新技术特点是完全无创,准确到单词级别的大脑语言阅读技术。这也是脑机接口的一种模式,其关键技术是无创探测,缺点是很难实现通用技术,且需要大型的MRI设备。但这种技术会不会被滥用,许多人真的会担心出现这种情况。

Mind-reading machines are here: is it time to worry? (nature.com)

你脑子里的小声音现在可以被大脑扫描仪解码了——至少有些时候是这样。研究人员已经开发出了第一种非侵入性的方法来确定想象语言的要点,为那些不会说话的人提供了一个可能的交流渠道。但是,这项目前只有适度准确的技术,离实现真正的读心术有多近呢?政策制定者如何确保这些发展不被滥用? 大多数现有的思维-语音技术都使用大脑植入物来监测一个人的运动皮层的活动,并预测嘴唇试图形成的单词。理解背后的实际意义,计算机科学家亚历山大·胡特和杰瑞唐德克萨斯大学奥斯汀分校和他们的同事结合功能磁共振成像(fMRI),一种非侵入性的测量大脑活动,与人工智能(AI)算法称为大型语言模型(llm),基础工具如ChatGPT和训练预测下一个单词在一个文本。

d41586-023-01486-z_25308662.gif

在5月1日发表在《自然神经科学》杂志上的一项研究中,研究人员让3名志愿者躺在功能磁共振成像扫描仪中,记录他们在每听16小时播客时的大脑活动。通过测量血液流动通过志愿者的大脑和整合这些信息的细节他们听和LLM的理解单词之间的能力,研究人员开发了一个每个人的大脑如何应对不同的单词和短语的编码地图。 接下来,研究人员记录了参与者在听故事、想象讲故事或观看没有对话的电影时的功能磁共振成像活动。研究人员结合了他们之前为每个个体编码的模式,以及决定如何基于一个句子中的其他单词来构建句子的算法,试图解码这种新的大脑活动。下面的视频显示了一名研究参与者在观看动画电影《辛特尔》中的一段大脑录音时录制的句子,讲述的是一个女孩照顾一条小龙的故事。

解码器生成的句子得到了这个人的想法的要点:例如,“我还没有驾照”这句话被解译为“她甚至还没有开始学习开车”。它还相当准确地描述了人们在电影中看到的内容。但它所产生的许多句子都是不准确的。研究人员还发现,故意欺骗这项技术很容易。当参与者在听一个录制的故事时故意想到一个不同的故事时,解码器无法确定他们听到的单词。编码的地图在个体之间也有所不同,这意味着研究人员不能创建一个适合每个人的解码器。胡特认为,随着研究人员创建更详细的个人大脑地图,开发一个通用解码器将变得更加困难。

位于马里兰州贝塞斯达的美国国家心理健康研究所的神经科学家弗朗西斯科·佩雷拉说,确定大脑如何从语言中创造意义是极其困难的。“看到有人成功了,真是令人印象深刻。” “唤醒呼叫” 神经伦理学家对于这一最新进展是否对精神隐私构成威胁存在分歧。波士顿哈佛医学院的生物伦理学家加布里埃尔·拉扎罗-穆尼奥兹说:“我并不是在呼吁恐慌,但像这样复杂的非侵入性技术的发展似乎比我们预期的更接近前景。”“我认为这给政策制定者和公众敲响了警钟。”

但是,新罕布什尔州汉诺威市达特茅斯大学的科学哲学家阿迪娜·罗斯基斯说,这项技术太难使用了——也太不准确了——目前无法构成威胁。首先,功能磁共振成像扫描仪不是便携式的,这使得在没有他们合作的情况下很难扫描某人的大脑。她还怀疑,除了恢复通信能力之外,为个人训练一个解码器的时间或成本是否都是值得的。“我只是不认为现在是时候开始担心了,”她说。“政府还可以通过很多其他方式来判断我们的想法。” 剑桥麻省理工学院的认知神经科学家格丽塔·塔库特发现,解码系统不能应用于个人,人们可以很容易地通过思考其他事情来欺骗它,这令人鼓舞。

请谨慎行事 然而,罗斯基斯说,即使解码器工作不佳,如果律师或法院在不了解其科学局限性的情况下使用它,问题也可能出现问题。例如,在目前的研究中,“我刚从车里跳出来”这句话被解码为“我必须把她推出车”。罗斯基斯说:“这些差异是非常明显的,它们可能会在一个法律案件中产生巨大的影响。”“恐怕我担心他们会有能力在不应该使用的时候使用这些东西。” 唐也同意了。他在新闻发布会上说:“测谎仪不是准确的,但已经产生了负面后果。”“没有人的大脑就不应该被解码。”他和胡特呼吁政策制定者积极解决读心技术如何可以和不能合法使用。

拉扎罗-穆尼奥斯表示,该政策行动可能反映了2008年美国的一项法律,该法律禁止保险公司和雇主以歧视性的方式使用人们的基因信息。他还担心这个解码器对患有强迫症等疾病的人的影响,这些人可能会经历一些不想要的、侵入性的想法,想要伤害那些他们永远不会采取行动的人。 佩雷拉说,解码器的精确程度是一个悬而未决的问题,因为它们最终能否成为通用的,而不是特定于个人的。“这取决于你认为人类有多独特,”他说。 虽然解码器最终可能会擅长预测一个系列中的下一个单词,但它可能很难解释隐喻或讽刺。佩雷拉说,在把单词放在一起和确定大脑如何编码单词之间的关系之间还有一个很重要的一步。

 




https://m.sciencenet.cn/blog-41174-1386699.html

上一篇:百度AI设计的新概念RNA疫苗
下一篇:更年期如何重塑大脑

6 许培扬 李升伟 张学文 杨正瓴 郑永军 赫荣乔

该博文允许注册用户评论 请点击登录 评论 (1 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-28 18:34

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部