[返回军事纵横首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
AI教父:不是关掉电源就没事 杀手机器人10年内成真
送交者: yyykc[☆★★★声望勋衔15★★★☆] 于 2024-03-23 5:48 已读 820 次  

yyykc的个人频道

6park.com

加拿大多伦多大学名誉教授辛顿(Geoffrey Hinton)有“AI教父”之称,他在接受日媒采访时,谈及人工智能(AI)的威胁。他说,很多人以为,要防止AI失控,只要关掉电源开关就可以,“但超越人类智慧的AI可以用语言操纵我们。或许会试图说服我们不要关掉开关”。 6park.com

辛顿是“深度学习”(Deep Learning)和神经网络(模彷人脑的数学模型)的先驱,其研究帮助奠定了AI发展的基础。2023年,辛顿突然从已工作10多年的美国谷歌辞职,开始谈论AI的威胁。 6park.com

《日本经济新闻》22日刊出了对辛顿的专访内容。辛顿表示,如果给AI设定目标,作为解决对策,它可能会找出对人类不利的方法。比方说,假设向AI下达遏制气候变化的指令。AI会意识到为了达到目的而有必要将人类清除,他担心真的会付诸实施的风险。 6park.com

辛顿指出,今后还可能会出现不同的AI相互竞争的局面。例如,如果AI之间发生数据中心等资源的争夺,这将是一个像生物体一样推动进化的过程。面对透过竞争变得更聪明的AI,我们人类将落在后面。 6park.com

他还预测,未来10年内将出现自主杀死人类的机器人武器(杀手机器人)。他说,机器人武器或许迟早也会被限制,但是,这可能要等到真正在战场上被使用、人类认识到会带来多么悲惨的结局后才能实现。 6park.com

辛顿又谈到,如果从主观经验这一角度进行说明,他认为AI可以拥有和人类一样的感觉。他说,人类也会经历与客观事实不符的事件。例如我喝了很多酒,早上醒来时,眼前因为幻觉而出现了粉红色的小象。我不会相信小象的存在,而是会认为自己的感知系统没有正常工作,因此这只是内在的体验。 6park.com

他说,透过照相机收集视觉讯息的AI也可以产生同样的情况。例如,将物体放在相机前,用稜镜使光线弯曲,形成产生物体在远处的错觉。如果对话式AI解释称感知系统因为稜镜而不能正常工作,那么我们就可以说它有着和人类一样的感觉。
喜欢yyykc朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ yyykc的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回军事纵横首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


    用户名:密码:[--注册ID--]

    标 题:

    粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


         图片上传  Youtube代码器  预览辅助

    打开微信,扫一扫[Scan QR Code]
    进入内容页点击屏幕右上分享按钮

    楼主本栏目热帖推荐:

    >>>>查看更多楼主社区动态...






    [ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]