研究:Google Assistant、Alexa与Siri可能成为骇客入侵帮凶
2018-05-11 12:57:57 | 来源:ithome | 投稿:乐乐 | 编辑:dations

原标题:研究:Google Assistant、Alexa与Siri可能成为骇客入侵帮凶

图片来源: Nicholas△Carlini 就在Alexa、Google△Assistant与Siri等数位语音助理正在积极抢占市场之际,加州柏克莱大学的两名研究人员Nicholas△Carlini与David△Wagner发表一研究报告,利用语音对抗样本(Audio△A...

图片来源:

Nicholas△Carlini

就在Alexa、Google△Assistant与Siri等数位语音助理正在积极抢占市场之际,加州柏克莱大学的两名研究人员Nicholas△Carlini与David△Wagner发表一研究报告,利用语音对抗样本(Audio△Adversarial△Examples)攻击语音转文字(speech-to-text)神经网络,只要稍微修改声音的波形,就能在几乎不被察觉的状态下嵌入恶意命令。

Carlini在2016年就曾针对日益兴起的语音介面发表隐藏语音命令(Hidden△Voice△Commands)研究报告,使用人耳听不见,但语音分辨系统却能接收的音频来执行恶意命令。

然而,当时研究人员所隐藏的恶意语音命令仍有噪音的感觉,新研究则大幅改善此一缺点,只要些微变更声音的波形,即可嵌入任何的命令,两个由人耳听起来有99.9%相似度的句子,在借由语音分辨系统解析之后却是完全不同的语音命令。

研究者提供的示范音频:两段声音在人耳中听不出太大的差别,例另一段经过变造的声音却可让语音分辨系统分析出别的含意,例如要求语音助理造访恶意网站。

Carlini与Wagner所打造的攻击行动不只适用于语音,也能在音乐中嵌入恶意语音命令。想像其可能的攻击场景,在聆听网络音乐时,若同时开启了Echo、Google△Home或HomePod,即有机会被骇客植入语音命令;或是在iPhone与Android手机中,让Siri与Google△Now/Google△Assistant造访恶意网站。

tags:

上一篇  下一篇

相关:

Duplex太逼真吓坏人,Google将让AI语音助理表明“我是机器人”

?然而Duplex几可乱真的表现吓坏不少人,也引起批评声浪。有人认为AI和人类声音应该要加以区隔,就像刻意在无色无味的瓦斯中加入臭味,科技评论家Stewart△Brand也指出合成声音应该就听起来是合成的,任何以假乱真的事

Google用深度学习分析电子病历,预测病患住院天数和死亡率

Google△AI研究团队近日在官方博客中发表靠深度学习模型分析电子病历的成果,该深度学习模型可预测病患住院期间的死亡率、意外的回院风险、住院天数和出院病情。当病患到医院看诊时,许多病患都会对于下一步会发生什

Google 地图再进化,融合AR街景让你找路更轻松

Google地图新功能,会派一只小狐狸,沿着箭头来帮忙带路。 图片来源: Google 在这次Google△I/O大会中,Google展示了Google地图新功能,结合扩增实境(AR)技术和自家去年推出的VPS(Visual△Positioning△System)

AI趋势周报第39期:Google新AI小游戏,展示TensorFlow.js威力

Emoji△Scavenger△Hunt可以直接在手机浏览器运行,不会存取后端伺服器、也不会搜集或储存手机的照片。 图片来源: Google 重点新闻(0504~0510)?Google△????TensorFlow.js△??Google推出新AI小游戏,展示TensorFl

美国政府遴选无人机测试专案名单揭晓,Google与微软参与专案中选,独不见Amazon与大疆

示意图,与新闻事件无关。 图片来源: Google 继美国总统特朗普(Donald△Trump)在去年10月签署了Integration△Pilot△Program无人机测试专案之后,美国交通部(USDOT)在本周公布从各州政府所提出的149个专案中所

站长推荐: