[返回科技频道首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
AI越进化越跟人类大脑像!Meta找到了机器的“前额叶皮层”
送交者: 神游八荒[♂★★声望品衔10★★♂] 于 2022-06-20 16:23 已读 3560 次 1 赞  

神游八荒的个人频道

说出来你可能不信,有一只AI刚刚被证明,处理语音的方式跟大脑谜之相似。

甚至在结构上都能相互对应—— 6park.com

科学家们在AI身上直接定位出了“视觉皮层”。 6park.com

6park.com

这项来自Meta AI等机构的研究一经po出,立马在社交媒体上炸开了锅。一大波神经科学家和AI研究者前往围观。 6park.com

6park.com

LeCun称赞这是“出色的工作”:自监督Transformer分层活动与人类听觉皮层活动之间,确实密切相关。 6park.com

6park.com

还有网友趁机调侃:Sorry马库斯,但AGI真的快要来了。 6park.com

6park.com

不过,研究也引发了一些学者的好奇。 6park.com

例如麦吉尔大学神经科学博士Patrick Mineault提出疑问: 6park.com

我们发表在NeurIPS的一篇论文中,也尝试过将fMRI数据和模型联系起来,但当时并不觉得这俩有啥关系。 6park.com

6park.com

所以,这到底是一项怎样的研究,它又是如何得出“这只AI干起活来像大脑”的结论的? 6park.com

AI学会像人脑一样工作 6park.com

简单来说,在这项研究中,研究人员聚焦语音处理问题,将自监督模型Wav2Vec 2.0同412名志愿者的大脑活动进行了比较。 6park.com

这412名志愿者中,有351人说英语,28人说法语,33人说中文。研究人员给他们听了大约1个小时的有声书,并在此过程中用fMRI对他们的大脑活动进行了记录。 6park.com

6park.com

模型这边,研究人员则用超过600小时的无标签语音来训练Wav2Vec 2.0。 6park.com

对应志愿者的母语,模型也分为英语、法语、中文三款,另外还有一款是用非语音声学场景数据集训练的。 6park.com

而后这些模型也听了听志愿者同款有声书。研究人员从中提取出了模型的激活。 6park.com

相关性的评价标准,遵照这个公式: 6park.com

6park.com

其中,X为模型激活,Y为人类大脑活动,W为标准编码模型。 6park.com

6park.com

从结果来看,自监督学习确实让Wav2Vec 2.0产生了类似大脑的语音表征。 6park.com

从上图中可以看到,在初级和次级听觉皮层,AI明显预测到了几乎所有皮层区域的大脑活动。 6park.com

研究人员还进一步发现了AI的“听觉皮层”、“前额叶皮层”到底长在哪一层。 6park.com

6park.com

图中显示,听觉皮层与Transformer的第一层(蓝色)最吻合,而前额叶皮层则与Transformer的最深一层(红色)最吻合。 6park.com

此外,研究人员量化分析了人类感知母语和非母语音素的能力差异,并与Wav2Vec 2.0模型进行对比。 6park.com

他们发现,AI也像人类一样,对“母语”有更强的辨别能力,比如,法语模型就比英语模型更容易感知来自法语的刺激。 6park.com

上述结果证明了,600小时的自监督学习,就足以让Wav2Vec 2.0学习到语言的特定表征——这与婴儿在学说话的过程中接触到的“数据量”相当。 6park.com

6park.com

要知道,之前DeepSpeech2论文认为,至少需要10000小时的语音数据(还得是标记的那种),才能构建一套不错的语音转文字(STT)系统。 6park.com

6park.com

再次引发神经科学和AI界讨论 6park.com

对于这项研究,有学者认为,它确实做出了一些新突破。 6park.com

例如,来自谷歌大脑的Jesse Engel称,这项研究将可视化滤波器提升到了一个新的层次。 6park.com

现在,不仅能看到它们在“像素空间”里长啥样,连它们在“类脑空间”中的模样也能模拟出来了: 6park.com

6park.com

又例如,前MILA和谷歌研究员Joseph Viviano认为,这个研究还证明了fMRI中的静息态(resting-state)成像数据是有意义的。 6park.com

6park.com

但在一片讨论中,也出现了一些质疑的声音。 6park.com

例如,神经科学博士Patrick Mineault除了指出自己做过相似研究但没得出结论外,也给出了自己的一些质疑。 6park.com

6park.com

他认为,这篇研究并没有真正证明它测量的是“语音处理”的过程。 6park.com

6park.com

相比于人说话的速度,fMRI测量信号的速度其实非常慢,因此贸然得出“Wav2vec 2.0学习到了大脑的行为”的结论是不科学的。 6park.com

当然,Patrick Mineault表示自己并非否认研究的观点,他自己也是“作者的粉丝之一”,但这项研究应该给出一些更有说服力的数据。 6park.com

此外也有网友认为,Wav2vec和人类大脑的输入也不尽相同,一个是经过处理后的波形,但另一个则是原始波形。 6park.com

6park.com

对此,作者之一、Meta AI研究员Jean-Rémi King总结: 6park.com

模拟人类水平的智能,确实还有很长的路要走。但至少现在来看,我们或许走在了一条正确的道路上。 6park.com

喜欢神游八荒朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ 神游八荒的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回科技频道首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


用户名:密码:[--注册ID--]

标 题:

粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


     图片上传  Youtube代码器  预览辅助

打开微信,扫一扫[Scan QR Code]
进入内容页点击屏幕右上分享按钮

楼主本栏目热帖推荐:

>>>>查看更多楼主社区动态...






[ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]