原标题：研究人员展示AI的弱点：把乌龟分辨为枪支

麻省理工学院（MIT）的AI实验室LabSix上周发表一研究报告，以合成的3D对抗物件（adversarial△objects）来愚弄受过训练的神经网络，显示基于人工智能的神经网络存有弱点，把人类可轻易分辨的乌龟当成是枪支。

在人们愈来愈信任人工智能（AI）的当下，除了AI可能延袭人们的偏见而引发讨论之外，研究人员也发现AI仍有可遭受攻击的安全漏洞。

研究人员说明，基于神经网络的分类器在许多任务上可达到近似人类的效能，也被应用在高风险的实体系统上，不过，这些神经网络在遇见对抗物件时特别虚弱，当通过某些输入值来困扰它们时，就会造成神经网络在分类上的错乱。

过去的对抗物件演算法并不成熟，物件可能转个角度就能让AI成功分辨，相关的攻击行动也只是理论上的。然而，LabSix采用了一个全新的演算去，可用来产生可靠的2D或3D的对抗范例，它完全愚弄了Google的InceptionV3影像分类引擎，不管从哪个角度，InceptionV3都会将乌龟分辨成枪支，或是把棒球当成咖啡，就算是加入背景，InceptionV3也会以为在水里的乌龟是枪支，而手套中的棒球是咖啡。

研究人员认为，若对抗物件被证实是个针对AI的可靠攻击指标，那么就应该发展防御它的能力。它可能被用来攻击自动驾驶车，通过混淆的道路指标来愚弄AI系统，像是窜改道路速限，或是精心打造一个可蒙骗机场扫描系统的行李箱。

tags：

上一篇  下一篇

相关：

Container双周报第46期：通吃Swarm与K8s，Docker也开始原生支援Kubernetes

重点新闻（10月21日-11月03日）通吃Swarm与K8s，Docker也开始原生支援Kubernetes容器调度工具的竞争局面中，Kubernetes可谓是站稳龙头，不只各家厂商抢着支援，连Docker都开始支援Kubernetes，包含企业版Docker、支援

iOS 11.1刚补好KRACK攻击弱点，Pwn2Own行动竞赛又找出iOS零时差Wi

本周举行的Pwn2Own行动骇客竞赛成绩已经出炉，由中国的Tencent△Keen△Security△Lab与360 Security分居冠、亚军，由拿到44个积分的Tencent△Keen△Security△Lab取得了世界破解大师（Master△of△Pwn）的头衔，而这

Watson技术长呼吁：企业再不用AI将失去竞争力，可先从客服着手

掌管IBM△Watson核心技术的Rob△High，于今日（2日）来台分享AI趋势，“每天全球会产生2.5 Exabytes的资料量，其中80%是非结构化的资料，”IBM△Watson技术长Rob△High表示，面对大量的非结构化的数据，要有效地分析

你曾想过自杀吗？研究：用AI就能知道你的自杀倾向

示意图，与新闻事件无关。 来自卡内基梅隆大学（Carnegie△Mellon△University）与匹兹堡大学（University△of△Pittsburgh）的研究团队利用功能性核磁共振（functional△magnetic△resonance△imaging，fMRI）与人

Sony机器狗Aibo重回来了! 咕溜大眼还多了AI功能

图片来源: Sony 一如传闻，消失10年的机器狗Aibo周三在Sony的宣布下，准备重出江湖。?和十年前的版本相较，新版Aibo具备更逼真的外型，可在和主人互动时摆动头部、尾巴和眨眼，做出滚球、趴下、好奇等动作，还会依情