研究人员展示AI的弱点:把乌龟分辨为枪支
2017-11-06 15:42:53 | 来源:ithome | 投稿:洛洛 | 编辑:dations

原标题:研究人员展示AI的弱点:把乌龟分辨为枪支

麻省理工学院(MIT)的AI实验室LabSix上周发表一研究报告,以合成的3D对抗物件(adversarial△objects)来愚弄受过训练的神经网络,显示基于人工智能的神经网络存有弱点,把人类可轻易分辨的乌龟当成是枪支。在人们愈...

麻省理工学院(MIT)的AI实验室LabSix上周发表一研究报告,以合成的3D对抗物件(adversarial△objects)来愚弄受过训练的神经网络,显示基于人工智能的神经网络存有弱点,把人类可轻易分辨的乌龟当成是枪支。

在人们愈来愈信任人工智能(AI)的当下,除了AI可能延袭人们的偏见而引发讨论之外,研究人员也发现AI仍有可遭受攻击的安全漏洞。

研究人员说明,基于神经网络的分类器在许多任务上可达到近似人类的效能,也被应用在高风险的实体系统上,不过,这些神经网络在遇见对抗物件时特别虚弱,当通过某些输入值来困扰它们时,就会造成神经网络在分类上的错乱。

过去的对抗物件演算法并不成熟,物件可能转个角度就能让AI成功分辨,相关的攻击行动也只是理论上的。然而,LabSix采用了一个全新的演算去,可用来产生可靠的2D或3D的对抗范例,它完全愚弄了Google的InceptionV3影像分类引擎,不管从哪个角度,InceptionV3都会将乌龟分辨成枪支,或是把棒球当成咖啡,就算是加入背景,InceptionV3也会以为在水里的乌龟是枪支,而手套中的棒球是咖啡。

研究人员认为,若对抗物件被证实是个针对AI的可靠攻击指标,那么就应该发展防御它的能力。它可能被用来攻击自动驾驶车,通过混淆的道路指标来愚弄AI系统,像是窜改道路速限,或是精心打造一个可蒙骗机场扫描系统的行李箱。

tags:

上一篇  下一篇

相关:

Container双周报第46期:通吃Swarm与K8s,Docker也开始原生支援Kubernetes

重点新闻(10月21日-11月03日)通吃Swarm与K8s,Docker也开始原生支援Kubernetes容器调度工具的竞争局面中,Kubernetes可谓是站稳龙头,不只各家厂商抢着支援,连Docker都开始支援Kubernetes,包含企业版Docker、支援

iOS 11.1刚补好KRACK攻击弱点,Pwn2Own行动竞赛又找出iOS零时差Wi

本周举行的Pwn2Own行动骇客竞赛成绩已经出炉,由中国的Tencent△Keen△Security△Lab与360 Security分居冠、亚军,由拿到44个积分的Tencent△Keen△Security△Lab取得了世界破解大师(Master△of△Pwn)的头衔,而这

Watson技术长呼吁:企业再不用AI将失去竞争力,可先从客服着手

掌管IBM△Watson核心技术的Rob△High,于今日(2日)来台分享AI趋势,“每天全球会产生2.5 Exabytes的资料量,其中80%是非结构化的资料,”IBM△Watson技术长Rob△High表示,面对大量的非结构化的数据,要有效地分析

你曾想过自杀吗?研究:用AI就能知道你的自杀倾向

示意图,与新闻事件无关。 来自卡内基梅隆大学(Carnegie△Mellon△University)与匹兹堡大学(University△of△Pittsburgh)的研究团队利用功能性核磁共振(functional△magnetic△resonance△imaging,fMRI)与人

Sony机器狗Aibo重回来了! 咕溜大眼还多了AI功能

图片来源: Sony 一如传闻,消失10年的机器狗Aibo周三在Sony的宣布下,准备重出江湖。?和十年前的版本相较,新版Aibo具备更逼真的外型,可在和主人互动时摆动头部、尾巴和眨眼,做出滚球、趴下、好奇等动作,还会依情

站长推荐: