/
登录
 找回密码
 立即注册

只需一步,快速开始

发帖

杨雄里院士:脑机接口让人拥有读心术?有可能,但必须规避风险 ...

华人网 2024-10-11 16:46

作者|章剑锋

|《科学大师》栏目

核心观点:

1,科学研究显示,人已经可以通过意念操控很多东西,甚至遥控两百米以外其他人的行为。

2,脑机接口技术还不成熟,安全性还有待检验,正常人没必要植入大脑。

3,马斯克说的机器智能将主导和控制世界,是夸大其词,没有科学证据证明。

4,脑机接口技术一旦成熟,读心术有可能出现,但要警惕其风险巨大。

5,我以前坚信人脑智慧至高无上不可超越,现在我改变看法,人工智能有可能全面超越人脑智慧。

6,我担忧,以后不光是人和人的竞争,人和机器也会发生竞争,社会可能更加内卷。

脑机接口被马斯克推上新风口,老马披露:接受手术植入的病人初见效果,那么,正常人以后是不是也能应用,人人脑袋上都可植入一个?

“正常人为什么非要植入脑机接口?通常植入脑机接口来治病都要小心翼翼,正常人哪能随便就把脑袋打开。”中国科学院院士、复旦大学脑科学研究院创始院长杨雄里教授告诉网易新闻《科学大师》,且不说脑机接口技术目前并不成熟,就算以后成熟了,正常人也不可轻率使用,从技术安全性和社会伦理风险等方面来看,在人脑植入脑机接口都要慎之又慎,不宜普及。

杨雄里院士是资深的神经生物学家,中国脑科学计划的筹建者和推动者之一,早在十年前,杨雄里即呼吁加强借鉴脑的工作原理推进人工智能研究,认为这将成为未来科学研究和产业**新的爆发点和增长点。

不过,他认为,在发展人工智能时必须审慎地注意可能产生的负面影响,从而使人类社会早做准备,从容应对。如果脑科学研究今后取得重大突破,脑机接口技术发展得更加成熟,也许人类真能逐渐拥有“读心术”的能力,这样人人都成了毫无隐私的“透明人”,这将会是灾难性的,是谁都不愿看到的。


杨雄里院士 / 受访者供图

以下是访谈实录,听听他是怎么说的吧:

一,我不赞成在正常人植入脑机接口,这可不是闹着玩的。

《科学大师》:马斯克“神经连接”公司已经进行了他们首例脑机接口植入人体大脑的手术,据他自己公开宣称,效果不错。业内声音是希望以后正常人也能用脑机接口,人会变得更加超能、更加强大,比如用意念可以操控很多东西,这能实现么?

杨雄里:我不赞成正常人也植入脑机接口。

通过手术把电极放进大脑皮层,在机器人的操作下,目前这是能实现的,而且电极的密度能达到相当高的水平,检测的灵敏度也有明显提高,但也就仅此而已。

从安全角度来讲,现在还不清楚脑机接口植入人脑之后会产生什么风险(植入的材料会不会有毒性、对人体有没有损害),它和脑组织的生物相容性如何?效果如何?这些问题都还有待时间的检验、科学的评估。

脑机接口能增强人的能力,这是已经显示出来的;研究也已表明,用意念可以操控许多东西,但我们需要思考的关键问题:在正常人植入脑机接口的目的是什么?为什么一定要植入它?在我看来,如果没有充分必要的需求,正常人不宜这样做。大脑的生物学机制很复杂,一定要有很充分的理由,才能讨论正常人是否需要植入、以及植入可行性的问题,而不是每个人都可以纯粹出于新奇体验一下而植入脑机接口。

《科学大师》:一个说法是,随着人工智能的发展,未来会是机器主导世界,如果没有脑机接口,人类就没办法生存,如果人跟机器之间可以通过脑机接口实现紧密的沟通连接,甚至人可以通过意念控制机器,就不容易被机器淘汰,一旦实现人机混合体,人脑和人工智能可以共生,横跨两界。

杨雄里:我知道,这是马斯克的观点。这种说法更多是一种概念。在我看来,人类社会会不会发展到这种阶段还是一个疑问,当前也没有确凿的证据表明人工智能已经在某些方面反过来能控制人脑智能,人工智能更多是按照人类的意图融入人类社会,为人提供服务。当然对它融入人类社会以后可能带来什么样的负面影响,我们应有足够的警觉(人工智能作为工具一旦被人滥用,以及监管缺失可能导致的风险),但机器智能似乎很快就会主导甚至控制世界,这显然是夸大其词了。

退一步来说,如果真出现这种情况,脑机接口是不是一种好的策略,它能不能帮助实现人与机器的有效沟通或制衡?个人管见,这种想象或预判在目前缺乏科学的依据。


杨雄里院士在2023年网易未来大会上。/网易新闻

二,脑科学研究进展缓慢,制约脑机接口发展

《科学大师》:目前脑科学研究处在什么样的水平,哪些问题是无解的?

杨雄里:科学家对脑的工作原理,以及其细胞和分子机制的研究,近年来已取得巨大的进步,但是对于脑高级功能(如思维、意识、情绪,智力、语言等)研究还是十分肤浅的。一个人的意念可以影响另一个人的行为,在几年前就已经得到实验的证实。在那个实验中,两人分别坐在间隔200米的两间实验室里,其中一人做电脑游戏,他在意念中想象要发射炮弹,却未用手指去按相应的按键,其时形成的脑电波经互联网传递至200米远处的另一个实验室,在那里另一位受试者通过所戴的特制头盔,收到了这一脑电信号,直接完成了按键的动作。这证明一个人的意念可以遥控另一个人的行为。

人脑实施其功能并非由单个神经细胞,而是由许多神经细胞通过特殊的接点(突触)连接成的神经环路实现的。思维作为一种脑的高级功能,参与的神经环路分布在脑的不同区域,细胞种类多,分布面广。目前尚无法弄清楚神经细胞所产生的千变万化的众多的电信号所表达的涵义,甚至都不清楚各种电信号具体是由哪些脑区的哪些神经细胞、又是以怎样的形式产生的。

《科学大师》:在人脑的很多科学原理和机制没有弄清楚的情况下,脑机接口一类人工智能的发展,会不会因为脑科学无法提供强大的科学基础而受到制约?

杨雄里:科学对脑的高级功能还没有非常清楚的了解。大脑组织太复杂,它的功能和机制像一个黑箱,现在科学对它还有很大的认知空白。大脑每个区域的功能都不一样,信号也不相同。目前,对脑电的精确解读几乎没有可能,而把脑电信号转移到机器上,形成精确的指令,实现所谓的人和机器之间的“心心相印”(你动什么念头机器就马上根据你的意念干什么),这是很难对付的科学难题,所以基于人脑的高度智能的人机共生和人机交互,目前还实现不了。

不仅仅是脑组织结构复杂,其运行更复杂,有很可观的可变性和可塑性(即结构和功能随内环境等各种因素而变)。即使是成年人的神经系统,虽发育已成熟,但随着人所处环境和接触到的各种信息的改变,它也会发生剧烈的变化。看看变化无常的脑电波就可以明白这一点,我们对某一时间段的脑电记录所表示和对应的是何种信息几乎一无所知。

我们经常说的一句口头禅:谁知道他在想什么?目前这种情况还是如此。在同样的环境中同样的条件下,人脑电波的波形和频率都会有显著差别。

谈到这儿,不妨以梦为例谈一点这类研究的困难所在。现在,科学家们已经能按脑电是否出现特殊频率的波形,很有把握来判定受试者是否在做梦。但是除了梦呓及醒后的自述,谁也难以知道做梦的人经历了什么样的梦境!

对诸如此类脑的高级功能的研究,涉及深层次的生命规律,科学家正殚精竭虑进行探索。这种状况显然会非常严重地牵制脑机接口一类人工智能的发展。

三,脑机接口能治病?目前有若干疾病通过脑机接口缓解病情,但无法根治

《科学大师》:为什么脑机接口可以治病?从已有信息看,脑机接口能用于临床试验,治疗某些疾病,而且已有的研究披露,治疗是有成效的?

杨雄里:我首先想强调一点,在目前阶段,把脑机接口用于医学,是在目标疾病已没有更有效的常规治疗方案之后,无计可施,才会采用的特殊治疗方法,需要事先充分估量它所引起的伤害(尽可能确保无害),如果预备实验又提示可能会有一定疗效,那不妨一试。

脑机接口用于临床实验,目前也限于有数的几种神经退行性疾病,比较多的是帕金森病,因为医学上对帕金森病的病理变化基本上是清楚的,在这些病人脑的某一区域(中脑黑质区)含多巴胺的神经元变性死亡,导致另一区域(纹状体)多巴胺含量相应减少,从而影响人的**功能和其它功能。如果能以某种方式使脑的相关区域多巴胺增加,人就可以在**方面有所改善。研究表明,脑机接口一定程度上可经电刺激改善肌肉收缩和关节活动异常等症状。

瘫痪是另一个实例。导致瘫痪的重要原因之一,是中枢产生的指令因神经损伤无法到达肌肉,在这种情况下,通过脑机接口使中枢产生的指令,越过神经损伤的部位,直接到达肌肉,使肌肉收缩。前些年巴西世界足球锦标赛时,是一个下肢瘫痪球员上场开球的,这位球员已无法行走,但脑机接口把中枢的指令传递至肌肉时,借助于外骨骼的**成功地把球踢了出去,此时全场掌声雷动。

问题是,对于帕金森病、老年痴呆、渐冻症等疾病,在很多情况下,是脑的哪些区域发生了变化,出了毛病,又是什么机理使某种脑功能受到影响都不清楚,这就限制了脑机接口的应用。对于这些疾病,脑机接口在一定程度上能缓解症状,但不能根治。对于另一些疾病,目前还找不到对应的大脑功能区域,也就没法植入脑机接口进行治疗。

当然,我认为,在神经退化性疾病治疗方面,脑机接口确实还有很大的应用空间,因为现在所谓的神经调控技术,还是在发展过程中。人类很大一部分神经系统疾病可以归因于脑的高级功能发生变化所致,其中有的疾病可能是某一种物质如多巴胺分泌出了问题,还有相当一部分是由于神经信息传导的连接和传递的方式在某种特殊环境下发生了变化,而这些变化现在看来通过神经调控的方式,通过脑机接口等手段,有可能使它恢复到原来的功能状态。但遗憾的是,这种病人一生都离不开脑机接口,这与通常疾病康复治愈是两回事。

四,脑科学一旦有所突破,“读心术”也许会出现,但这不是什么好事

《科学大师》:如果有一天脑科学取得突破,脑机接口技术也由此得到成熟发展,您是否赞同它的社会化普及应用?

杨雄里:我不赞成,如果脑机接口真能达到对人脑意识的高水平识读解码能力,把人的脑电波的波形和空间分布如果都搞清楚了,即通俗讲的读心术,会带来什么后果,是否一定就有利于整个人类社会发展,这需要认真的思考。

每个人都有自己的隐私,比较极端的情况是,所有人都能看到其他人的思想,都有能力去检测别人在想什么,这样一个世界将是一个怎样的世界?如果让人类所有的思维活动都暴露于光天化日之下,我认为将蕴涵着一种极大的威胁。到时候大家都将是毫无隐私的“透明人”,这样人类社会还能够存在下去吗?

发展人工智能过程中,我一直强调,任何一种科学技术门类的发展都有可能成为双刃剑,所以我不赞成正常人无缘无故就给自己配置一个脑机接口,不管是植入式的还是非植入式的。

尽管对于脑高级功能的研究进展缓慢,但对于某些高级脑功能的探索逐渐可能会有显著的进展。上述场景也许不会发生,也许会在非常遥远的某个时候突然发生。不管怎样,伦理监管的围栏需要先树起来,就像筑堤坝一样,有备无患。


杨雄里院士在2023年网易未来大会上/网易新闻

五,我曾认为人脑智能不可超越,现在我认为人工智能会超越人脑智慧的可能性是存在的

《科学大师》:您曾说过人脑智能至高无上不可超越,但是后来又主动提出要修正自己的看法,是这样么?

杨雄里:我曾认为人脑智能是至高无上的,是不可超越的,但是我现在感到这个观点过于绝对化了,所以我要修正自己的看法。

我的基本观点是,现实生活中,人工智能在某些方面已经超过人脑智能(注意,我说的可不是控制人类),在科学上 Nothing is impossible(没有什么是不可能的),我甚至认为不能排除这种可能性:人工智能在将来的某一天会全面地超过人类。当然,这样一个高水平的智能时代不可能很快到来,还有非常漫长的过程。

《科学大师》:您是基于什么情况才主动修正自己的看法?在哪些方面人工智能已有超过人类的迹象?

杨雄里:这里,我引述自己两次实际经历对我的冲击。去年初为举行国际会议International Retina Summit(视网膜国际高峰论坛),我草拟了一份英文邀请信。成稿后,我的手指不小心误触了某一个按钮,突然我的手机屏幕上出现了一个中文文件,仔细一看,原来是我的英文草稿的译文。译文非常地道,几乎无可挑剔。这件事情要我本人来做,也得花一些时间,而那个软件几乎是在瞬间就完成了。当时我就在想,今后我们还需要培养同声传译的专家吗?

我曾坚信,体现人类智慧顶峰的科学和艺术精品,是不可能因为人工智能崛起而变得黯淡无光的。但不久前,我曾读到一则报道,美国一位音乐教授编写了一套称为EMI的程序,能创作模仿德国作曲家巴赫风格的乐曲,行家们评论,这些乐曲的风格比巴赫自己的乐曲更像是巴赫的作品!

还有计算能力,这在几十年前早就超过人类了。

现在包括用人工智能来研究蛋白质的三维结构,做得也比科学家高明。

很多本来只属于人类独有的优势,现在在人工智能面前相形见绌,技能上人不如机器,这是事实。

我们原来比较多讲的是怎么用大脑来认识客观世界,现在客观世界也可以通过人工智能的方式打开,可以讲这是人类认识世界的一个新维度。

试想一下,人工智能发展才多少年,再有50年或100年,又将是什么状况?作为全社会的热点,大家都在思考,都在投入研发,它的发展速度是可以想见的。

《科学大师》:但很多人担心,这对社会原有的秩序将造成冲击和威胁,您有这个担心吗?

杨雄里:我也有这个担心,比如学术领域存在的学术不端、学术造假行为,由于人工智能被广泛引用,以后就很难鉴别一篇论文,特别是综述论文,是自己亲自综合各方面的信息撰写的,还是借助于人工智能来制作的。

人工智能既提高了人的能力,也带来人类之间的内卷和焦虑,造成新的比拼,谁在人工智能技术方面了解越多,更先掌握前沿技术,谁就能具有更强的能力,这是不争的事实。

以后不光是人跟人之间的竞争,甚至人跟机器之间也会竞争。像翻译这种岗位,就比较有风险,我估计今后翻译家的发展会有困难。

人工智能发展起来以后,会对人类现有生态系统产生一些什么影响,社会将发生什么变化,现在还无法充分估量。科学家自己都很难预料到。


路过

雷人

握手

鲜花

鸡蛋
原作者: 匿名 来自: 网络
文章点评