【海豚音视频】当心!你的手机正受到“海豚音攻击”!

说起"海豚音",大家脑海中可能马上会浮现出乐坛上的几位"熟面孔"。但其实,我们知道,真正的"海豚音",顾名思义,是指一些像海豚所发出的在人类听频范围外的高音调超声波。

当然,人类是无法发出超声波的,因此,"海豚音"用来泛指人所能发出的极高音调,也即人类发声频率的上限。而乐坛之所以将一些歌手的演唱方法称为"海豚音",也是为了称赞这种至高音阶唱法所带来的听觉享受。

海豚音(whistle register),学名哨音点缀叫法,是一种从声带与喉管之间的极小缝隙吹出强大气息而发出极高声音的发声方式,是一种花色趣味的高音唱法

然而,在我们现实生活中,却有一种"海豚音",不仅不优美曼妙,甚至称得上"阴险狡诈":虽然你听不见,却能让你的手机等智能设备对它"唯命是从",从而暗中开展不法活动,甚至实施信息攻击行为。

这听起来是不是有点匪夷所思呢?

"海豚音攻击":潜伏身边的超声波"杀手"

想象下面两个场景:手机一直随身携带,绑定的网购账户却"擅自做主"买了一箱牛奶;会议进行中,手机居然"自作主张"呼出电话,将会议"直播"了出去......这些看似不可能发生的事情,却真实存在于我们的生活之中,罪魁祸首就是"海豚音攻击"。

所谓"海豚音攻击",是指不法分子利用智能设备语音识别技术中的漏洞,通过相关技术攻陷语音助手,从而在设备主人毫无察觉的情况下,对设备进行操作。

例如,黑客可以通过超声波信号劫持智能音箱的语音控制系统,再利用麦克风的硬件漏洞开启语音助手,把智能音箱变成窃听器,从而窃取用户隐私;另外,还可以直接攻击带有语音助手的智能设备产品,如智能手机、智能手表,进行网购、拨打电话、查看文档、访问恶意网站;甚至可以遥控汽车,在一项测试实验中,研究人员利用超声波"黑"进了车载语音助手,由此打开了汽车天窗。

"海豚音攻击"之所以能够做到"悄无声息",关键就在于其利用了超声波信号人耳无法察觉的原理。在浙江大学与360集团的合作中,科学家先于黑客发现了这个漏洞,并已向有关手机厂商提交了实验数据。尽管研究团队的验证结果都是在2米之内的距离下产生,但据介绍,目前最先进的超声波发射器可以实现2000米范围的传播,这也意味着未来更多的攻击可能性,因此仍要通过升级软硬件、增设补丁等方式,实现及早预警,保护好用户的信息安全。

今年1月20日,中国人工智能学会“人工智能与安全专委会” 在北京成立,360集团董事长兼CEO周鸿祎在会上表示,应加强对“海豚音攻击”的重视

而据有关专家提示,阻止"海豚音攻击"最有效的方法,不在语音指令软件本身,而是设备的音频功能。对于我们普通用户而言,比较简单和实用的方法就是将我们智能设备的语音助手关闭,目前来看,这样就可以避免"海豚音攻击"所带来的安全隐患。

人工智能,想说爱你不容易

"海豚音攻击"所带来的新型威胁从侧面反映了人工智能时代,人们所面临的网络安全困境。如今,越来越多的智能设备介入我们的生活,这也是未来的大势所趋。但当下的人工智能技术并不完善,其中的安全问题成为了社会关注的焦点。

一、前端传感器可能被干扰。人工智能广泛依赖音视频采集、红外感应、激光雷达等各类传感器。但这些传感器自身并不安全,一旦被干扰,就会导致人工智能识别和决策失误,其中"海豚音攻击"就是干扰语音传感器的方式之一。

二、人工智能的数据样本可能被污染。目前人工智能采用深度学习模型,黑客可以构建畸形输入或者污染训练数据集,进行"数据投毒",导致人工智能出错。

黑客通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而引发交通事故

三、内部算法可能被欺骗。人工智能本质上是一种用大量数据训练出来的概率判断系统,其内部复杂的计算逻辑和决策过程可能会遭到欺骗,从而产生严重后果。

四、实现平台有漏洞。据有关专家介绍,当下的人工智能系统都依赖开源的深度学习框架,存在大量漏洞,有很大的安全隐患。

强化技术攻关,助力人工智能安全

当然,面对人工智能的网络安全问题,不能掉以轻心,但更不能因噎废食。在技术高速发展的同时,解决网络安全问题,关键还是要练好内功,强化核心技术攻关,通过开展国家科研项目等, 大力推动产学研机构对人工智能核心算法 、人工智能在网络安全态势感知和评估中的应用技术等的研发,推动网络安全发展。

像本次"海豚音攻击"由浙江大学和360集团共同发现,并倒逼企业进行技术改进和产品升级,从而实现对用户的信息安全保护,也是产学研合作、强化技术攻关的一次成功实践。

2018年在青岛举行的保密技术交流大会暨产品博览会上,来自产学研各界的与会嘉宾专门就人工智能与网络安全和个人隐私保护等话题展开了深入探讨