腾讯大讲堂:揭秘:黑产也“AI”,我们怎么办?

2018-07-24 08:14:49来源:爱运营 阅读 ()

新老客户大回馈,云服务器低至5折

编者按:作为国内最大的社交巨头,腾讯是如何借用 AI 技术来解决所面对的安全挑战?

在6月30日举办的CCF-GAIR智能安全专场中,腾讯安全平台部总监胡珀带来了《从危到机,AI 时代下的安全挑战》的演讲。

胡珀现任腾讯安全平台部总监,腾讯安全平台部Blade Team负责人,是国内首个漏洞奖励平台TSRC负责人。

腾讯大讲堂:揭秘:黑产也“AI”,我们怎么办?以及应急响应、前沿安全、安全培训、安全研究、漏洞奖励计划等工作。

以下是胡珀在现场的演讲,宅客频道做了不改变原意的编辑整理。

腾讯大讲堂:揭秘:黑产也“AI”,我们怎么办?也会用到AI。大家不要以为AI只是停留在学术界或者是工业界,其实现在黑产也大量在使用AI,之前我们处理过一个案子,就是黑产用机器学习的算法来识别验证码,最高可以达到80%到90%的识别率,这个团伙被摧毁后,我们发现这是我们见过的科技含量最高的黑产之一。

腾讯大讲堂:揭秘:黑产也“AI”,我们怎么办?被用到了实际环境,可能直接导致车毁人亡的严重情况。

第三个问题就是被污染,也就是在AI的底层框架存在的问题。

比如谷歌的深度学习系统TensorFlow,Tencent Blade Team研究之后,发现它其实存在一些传统的网络安全问题,比如恶意构造一个模型文件,格式经过特殊构造就可以控制它整个AI系统,然后可以算出AI系统的设计或者架构问题。除此之外,如果引用了恶意的第三方组件,也会导致系统崩溃,拿到系统权限。

这些漏洞我们都报给了官方,并拿到了致谢。这些系统如果底层出问题,被黑客利用,后果是灾难性的,所以现在产业界、学术界都非常关注AI的底层架构安全。

第四,许多智能设备都可能被控制。

比如智能音箱可能被窃听,我们团队对市面上的一些智能音箱做了一系列研究,许多智能音箱都有安全问题,包括协议的解析和认证授权等,其实还是传统的安全问题。如果大家感兴趣,可以在今年8月份在拉斯维加斯的DEF CON上关注我们介绍智能音箱的漏洞技术细节的议题。

智能音箱也存在被窃听的问题,小米和亚马逊都出现过安全问题,它们对协议的解析和认证授权有问题。

如果大家感兴趣,我们会在今年8月份,在拉斯维加斯讲亚马逊智能音箱的漏洞技术细节。

另外就是智慧城市,现在很多地方都引入了智慧城市,里面会用很多新的协议,比如 IoT 的协议,这个也存在许多安全隐患。

我们选用腾讯大厦作为目标进行了测试,发现它所使用的智能楼宇设备协议和加密通讯存在一些技术风险,这就造成我们可以通过远程控制某一层的会议室灯、空调、窗帘,包括插座等。

我们当时放了一个无人机到顶楼,挂了一个信号发射器,实现了对整层楼的开灯关灯关窗帘的控制,在欧洲的HITB安全峰会上我们也详细讲了这个漏洞的技术细节。

因为供应商是国外的,我们把问题报给官方,也修复了,做这个实验本身就是希望把这个问题修复掉。

除了智能音箱、智慧楼宇等,我们还研究过无人机。

2015年,Blade Team参加一个黑客比赛,远程用电脑把无人机劫持了。我们破解了无人机的通讯协议,破解之后发现,只能够抓到一部分无线电协议,就可以去模拟摇控器发出来的协议,把当时的无人机给劫持掉。

摄像头也是类似。2014年的时候,我们对国内的摄像头做了一系列的安全评测,2014年是智能摄像头元年,所以我们也要去跟进看一下。大家有没有见过有部电影叫《窃听风云》,里面有个桥段就是加了一个设备,把摄像头替换掉,导致保安没有发现有人进去了。

有些摄像头我们发现也是有这个问题的,我这里放了一个QQ公仔,摄像的 wifi 网络被我劫持替换,就能控制它所有想要展示的图像,我重新可以录视频,把公仔隐掉。

另外就是一些智能手机,因为智能手机现在用了越来越多的一些所谓的生物识别、智能识别,比如说人脸解锁,人脸解锁之前有很大的问题,但是我直接用照片,而且用二维的照片就可以解锁。

不过现在应该已经加了3D或者活体识别了,就没那么简单,但是我们目前在进行的一些研究中发现还是有机会的。所以后面有机会大家还可以看到我们的分享。

另外就是有些手机可以支持智能设备解锁,比如手环解锁,只要手机靠近手环就解锁了,不用输密码,这也是比较方便。

但在设计的时候会出问题,解锁的时候它只会检测我的手环match地址,这个也很容易实现,我们可以直接解锁他的手机。另外一些品牌手机可能采取的是指纹解锁,但我们发现用一个类似的导电硅胶,直接把纸巾按上去就可以了,根本不需要指纹,这个硅胶按上去算法也通过了,最后解锁也通过。就像现在的智能电锁,也是类似的原理。大家会发现,现在的智能手机也是不够靠谱的。

前面我讲的是智能设备本身的一些安全问题和供给场景演示,但除了他们本身存在的问题之外,AI技术还可能被黑产滥用。

这就是我们现在看到的,越来越多的智能设备链接到了网络上,但是这些智能设备的安全防护又没有传统的PC防火墙,反而会被黑客黑掉,黑客就拿来挖矿、进行DDoS攻击等等,这样就会带来很大的问题。

这些就是一些恶意软件,把物联网设备拿来做DDoS攻击,现在大量的IoT设备都连接上了网络,包括路由器、摄像头,很容易沦为黑客控制的工具。还有一些机器学算法也加入了黑产团队。

以上就是我讲的第一部分,AI的安全问题,下面我来展开讲一下第二部分,AI安全应用在具体场景下的应用,包括实战等。

大概也是这三个方向:一个是会向传统的生物特征转变,第二个是研究工具有变化,以前是用特征工程来对抗黑客攻击,现在可能会转入机器学习的方法,可能用机器学习给它建一个域值和模型,通过模型来看它是否是黑客攻击。

框架大概是这样,可能就是有一个整体的平台,再加上机器学习作为一个分析引擎,和其他的数据层、信誉库等一起,协同进行合作。

现在有一种很麻烦的攻击,就是UDP模拟,包括协议都会模拟到正常的业务,这样怎么做呢?还是会用机器学习相对好一点,在UDP模拟协议的特定场景之下,这种效果是非常好的。传统的 DDoS 防护是通过一个量来发现,但机器学习可以通过很多维度解决这个问题。

我们可以看一下,大概引入机器学习的实际效果。我们主要是应用在两个层面,一个是DDoS,一个是黑客的入侵行为,我们看一下 DDoS 的效果。

这是一个传统的DDoS的模型,加上一个 AI 环节,用机器学习给所有商户做画像。在腾讯云上有很多这样的小商家,可能它单个商户面临的流向不一样,QQ空间和微信朋友圈流量非常大,小的商户流量非常小,如果采取传统的特征工程的方法不能很好解决,比如商户做活动或者双十一整体流量上升,就会有这样那样的问题。

如果用AI画基线,比如取前面三个月或者前面一个月的数据,引入机器学习生成一个模型,通过检测模型来看是否是DDos的攻击或者活动量突增。这样的话,平时就不仅是流量的大小,还包括原IP的属性,或者原端口、整个IP的值,我们会把整个协议让机器自己去学,让它自己提特征出来,大概会选出很多维度,我们会用这个维度做模型。如果它某一天或者某一个时刻偏离这个模型,就可能是遭到DDos攻击。

最后平均准确率从80%到了96.4%,效果还可以,但机器也有误报,我们现在采取双引擎在跑,避免出问题。

在反入侵上也是类似,比如说我们的系统管理员登陆服务器,登陆之后可能会做一系列的运维,或者是部署操作,但它是个有限的集,同时它可能会在某一个特定的时间,或者会有特定的习惯,反正是有规律的。

这个规律如果通过特征工程很难做,但通过机器学习,可以很好地为服务器的每一个管理员帐号进行精准画像,这样就可以解决黑客冒用帐号的攻击方式。

现在大部分情况是黑客直接拿一个帐号密码,冒充管理做操作,但它的操作跟管理员是不一样的,一个是时间,还有一个是翻找文档,或者是偷数据的行为,但这些是正常运维管理员和普通用户不会出现的行为。所以完全可以通过这种模型,直接算一个匹配度,同时把它标注出来。

腾讯也有在做这块东西,效果就是我们的几次演习,拿到管理员帐号做进一步渗透的时候,他会明显发现有异常,会告警出来,效果还可以。

今天我总结一下,讲了两部分:一部分就是AI本身的安全问题,其实我们可以看到,随着现在AI和智能设备越来越应用到我们的生活,有很多各式各样的安全问题,不管是智能音箱、智能插座还是智慧楼宇等,一定会有很多黑客盯着,学术界、产业界最好提前发现解决,避免出更大的事故,毕竟以前的互联网都是信息化的东西,现在跟物理世界结合之后,可能会产生很大很严重的影响。

第二部分是把机器学习方法应用到传统的安全场景,在某些特定场景下,AI绝对是优于人类或者传统的特征工程,但在某些场景我们还需要继续探索。

问答环节:

雷锋网:今天几大巨头都带来了AI+安全的演讲,与他们相比,腾讯在这方面的战略上有哪些不一样?

胡珀:我觉得腾讯的AI+安全所面临的场景会更丰富一些,大家都知道,腾讯主要的业务包括游戏、社交、支付等,所以我们AI+安全会围绕这些场景做一些配套的工作,比如QQ上的登录,QQ上的垃圾信息打击,然后微信的登录、微信这一块的,都用到机器学习来保护账户的安全。

除此之外,我们也会在其他领域,比如腾讯在布局智能医疗,我们会配合腾讯的AI战略,在AI+医疗方面针对安全方面做一些定制化的工作,其他比如智慧零售和智慧楼宇也会在AI安全方面有研究。

雷锋网:能以具体场景为例讲一下你们的AI+安全如何落地吗?

胡珀:比如智慧楼宇,它其实就是一个传统的楼宇加上一个 AI 的学习框架组成的,其实它有两个问题:

1.它的 AI 学习方法有没有问题。

2.它的传统楼宇层有没有问题。

甚至是他们两者结合起来之后,会不会有新的问题出现?这都是我们要研究的东西。

雷锋网:您在腾讯工作了11年,从最开始的 PC 安全、移动安全、物联网安全再到 AI 安全这块,请问是不是安全人员以后都要对AI方面有所积累?以后这会是一个硬性的要求吗?

胡珀:这不一定,安全整个领域还是很大的,比如说他不做类似数据处理分析这块的工作,他可能就不需要了解人工智能相关的知识。如果只是一个负责软件漏洞挖掘的安全工程师,那他就不需要。

不过如果他是负责相关业务安全或者数据安全的,还是懂一些会比较好,因为他引入一种新的方法就可能会提升他的效率。

现在AI这么火,未来肯定会有越来越多的这种开源的框架、工具,去帮助安全人员去工作,提升效率,所以我觉得可能是这样一种场景,你懂技术,可以直接调用一个库,去调用这些AI的方法,这就会非常简单了,而且现在已经有这样一种趋势了。

雷锋网:你刚才在演讲中提到的宙斯盾所拥有的 DDoS 防御与其他的防御系统有何不同??

胡珀:我觉得特点有两个:

第一,因为腾讯的业务非常大,类型也很多,所以这个抗DDoS的要求会很高,是个通用型的产品。

第二个是帮腾讯云上的商户做,把它防护的每一个业务当成一个商户的话,它能适配不同的流量模型和类型,针对每一个商家,都是不同的模型,而不是一种一刀切的形式。

像传统的厂商或者是说传统的方法,都是用一刀切的方式,就是我加一些黑特征,只要他命令这个特征,我就认为是攻击,就把它拦掉。但是这可能会造成误杀,比如它搞了一个活动,然后流量跟以前不一样了,现在用机器学习的方法,会有一些调整,减少误杀。

雷锋网:在AI+安全领域,你有没有特别欣赏的公司?

胡珀:其实我们重点是看哪些公司能把AI应用在安全场景,然后对自身企业的安全防护会产生不错的效果。

本文来源:雷锋网

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有

上一篇:Ghost Data:9500万Instagram账户是机器人占比9.5%

下一篇:大平台为治愈 “巨头疲劳症” 纷纷推出心机小功能,可这真的能解