文 档: “恶魔音乐”攻击智能语音系统
作 者: 袁雪敬@中国科学院信息工程研究所
语 言: 中文
标 签 ai 智能设备安全 漏洞挖掘 物理安全
介 绍:

智能语音控制成为当前机器接受人类命令的常用方式,传统攻击需要入侵到汽车或者机器人系统中。利用声音信号欺骗人工智能系统可以避免物理接触设备,但是如何克服播放设备电子噪声以及环境噪声的影响,规模化地攻击智能语音识别系统是实现实际物理攻击的难题。

本文旨在研究智能语音应用的潜在威胁和防御机制,为人工智能算法测试与修复提供思路。主要基于语音识别原理,挖掘深度学习算法漏洞,自动化地将语音命令嵌入到任意歌曲中生成对抗样本,这种被称为CommanderSong的“恶魔音乐”可以在人们无法觉察的情况下大范围地实际物理攻击智能语音识别系统。此外,这种攻击还可以通过网络或者收音机信号进行广泛传播,进而在人们日常生活中误导商业化应用产品(如科大讯飞)。

援 引: https://www.inforsec.org/wp/?p=3033
附件下载
相关推荐
通过CLR攻击.NET Framework
议题概要:CLR是通用语言运行平台(Common Language Runtim
Java 生态圈沙箱逃逸实战
沙箱作为纵深防御的最后一道屏障,在云安全时代显得尤为重要。在一些重要框架和应用中
使用数据流敏感模糊测试发现漏洞
- 模糊测试 - 经典灰盒: 基于进化变异的模糊测试
人工智能时代数字内容治理 机遇与挑战
- AI时代数字内容产业发展6趋势 - AI时代数字内容6国政策观察 - A
源码审计与 windows 内核漏洞
#目录 - • 个人和团队介绍 - • 引子 - • 案例1-RFONTO
窥探安卓内核
- Android Kernel ≈ Linux Kernel - 静态