王琦健康之路讲前列腺 TechCrunch峰会王琦:人“攻”智能 黑客助力新技术的健康发展
提起黑客,大家想到的第一个问题:你们为什么要黑?他们还要黑什么?
在2018年TechCrunch国际创新峰会2018<杭州站>上,KEEN公司CEO、 GeekPwn大赛发起和创办人王琦(大牛蛙)与Technote创始人卢刚在活动现场围绕“黑客与安全”展开了一场对话。
王琦表示,黑客是一群“负责任披露”的独行艺术家,中西方应该加强交流,在技术与经验方面做到互通有无,而未来人工智能的发展高度几乎与黑客技术的高度呈正相关,也正是有了黑客,才有了解决问题甚至消灭问题的资本。黑客从来都不是坏人,恰恰相反,他们是一群“默默保护全人类”的白帽侠客;是一群“负责任披露”的独行艺术家。
(KEEN公司CEO、GeekPwn大赛发起和创办人、王琦)
黑客助力人工智能健康发展
随着人工智能与区块链技术的发展,AI安全与区块链安全逐渐成为当下各大厂商与消费者最为看中的一点。“人工智能也是一项技术,需要设计、部署,还有自身的一套算法。人工智能安全分成三层,如果用传统方法来黑的话比较容易。在我们比赛上面用到比较知名的人脸识别,差不多都黑过了,都证明它有问题,但不代表它很不安全。”
说起与人工智能和区块链相关的安全及风险问题,王琦首先表示这两个方面都是未来的趋势,“人工智能现在技术还处于起步阶段,但场景很多。区块链技术相当成熟,只是没有应用起来,因为场景很少。对于安全与否,取决于有没有被贼盯上,我们值不值得被偷。” 王琦如是说。
“只要它是一个智能产品,我们就可以黑掉它的心脏、它的大脑,干扰它的行为。当然,我更希望的是黑掉它的感知、黑掉它的意识。”人工智能应用系统是一个整体,任何环节都可能出现漏洞,导致安全问题。” 极棒实验室研究总结出影响AI安全的三大方面,分别为系统层安全漏洞、AI框架或库的漏洞以及AI算法的缺陷。
系统层安全漏洞即传统安全漏洞,通过操作系统或者应用层漏洞导致AI应用产生错误判断;AI框架、库的漏洞也不鲜见,各大主要流行框架、库都曾曝出重大漏洞;AI算法的漏洞则体现在通过构建对抗算法打败AI的手段,其中最为著名的包括生成式对抗网络。
王琦用一个GeekPwn 2017 硅谷站上研究人员演示的无人驾驶的例子向我们阐释了生成式对抗网络问题——通过用一个不起眼的标记就可以欺骗汽车的视觉系统,造成严重后果。“人工智能还是有缺陷的,例如Face ID,用 3D 打印面具也不是不可攻破的。
大家发展新技术的同时,别忘了产品还要运行在系统上,传统黑客一定会入侵,如果不注意的话,更何况新技术也会面临新问题。”在王琦看来,手机、电脑系统能够被黑客攻破,无人驾驶汽车当然也不能幸免。
中西黑客同台,用技术获得世人的理解与尊重
所谓“黑客”,简单理解是一群通过发现漏洞来帮助厂商修复问题,从而避免发生大规模的召回等产品问题的群体。王琦在会上针对中国黑客的发展历程表示,过去我们都是“拿来主义”。但中国人很聪明,能够把技术研究得很深入。
发展到现在,中国黑客已经将研究重心由技术能力的提高转移到创造力的提高,因为白帽子们承担的任务就是在坏人之前发现问题。如果我们不做这件事情,坏人就有可能做这件事情。安全问题不是因为黑客才存在的,恰恰是因为有黑客才消灭的。
安全问题如泉涌般接踵而至,亟待解决。而GeekPwn办这个比赛的初衷就是希望研究安全的人多起来,这样的人多起来,安全行业就会好起来,我们身边产品漏洞就会越来越少,生活也就会安全起来。GeekPwn作为全球最大关注智能生活的安全极客大赛,也是全球首个探索人工智能与专业安全的前沿平台,已经分别在中国上海、香港与美国硅谷举办比赛。
今年的GeekPwn2018,将突破以往的赛制设置,分为拉斯维加斯站与上海站。
大赛规则也全新升级,分别设置了不同挑战场景的命题专项赛与非命题专项赛,覆盖机器学习、机械、安全等多个领域,同时设立了500万人民币的初始奖金池,力邀广大极客选手发挥各自的专业背景与实战能力,挑战自我,突破安全边界。
