2019盘点 | 人工智能与网络安全ㄨ的碰撞擦出了什么新火▃花

发布时间 2020-01-10

转眼间,我们就踏入一个

数字 漢陽鋼還剩下三分之二都成双成对的2020年


在过去的时间里

人工智能技术获得了长足发展

不断刷新人们①的认知

引发人们对它更多的期望


让我们一起回顾2019

看一看

人工智能与网络安全的碰撞

擦出了什么新的火花呢


RSAC 2019


人工智能技隨后看著左護法眼中精光一閃术从“宣传噱头”逐渐转向实际应用


每年召开的RSA大会被看作是网络安全♂业界的风向标,很多新的技术与理念诞生于此。


在2019年的RSA大会上,参展的736家厂商中有124家的宣传主题中包含々人工智能/机器学习关键词,这表明了人工智能技术在网络安全领域继续得到普遍关◤注与认同。


然而,当我们深入观察比较近两年参展商所进行的宣传时,会发现ぷ一些变化,最重要的一点是人工智能幫你們一個忙技术从作为“宣传噱头”逐渐转向实际应用。具体差异如下▽表所示:


2018年与2019年RSA大会参展〗商对人工智能技术宣传的对比


从这些差异可以看出,对于人工智能技术,网络安全业界“冷静”下来了,不再追求所谓最新、最酷︻的算法,而是将其真正转化为产品的能力,关注如何能在实际环境中选择恰当合理的方︼案使其充分发挥作用。


启明星辰作为国内网络安全行业的领航者,始终朝着这一目熱血沸騰标努力。在2019年,我们持续致力于将相关研究工作成果转化△为实际产品能力,在威胁■检测、用户行为画像、威胁情报√等方面都已经取得了实质性进展。


Gartner 新兴▂技术成熟度曲线


可解释人工智能崛起打●破人工智能□技术的“黑盒”应用模式


2019年8月,Gartner发布了新一年度的新兴技术成熟度曲线。一如过去两年,人工智能技术继续占据◢了“半壁江山”。在曲线上总计29项技术中与人工智能直接相关的达到15项,这再次印证了人工智能技术的持续高速发展以及它所受到的高度@关注与期望。在这□ 些技术中,有的是延续上一年仍在曲线上,如自动驾ξ驶、知识图谱等,也有很多是◥新出现的,就比→如我们下面要讨论的可解释人工智能(Explainable AI,简称XAI)技术



2019年Gartner新兴技术成熟度曲线(人工智能相关技术用红色下划线标示)


可解释人工智能这一研究领域早精神也要耗費不少在2014年就被正式提出,它的主要目标是将人工智能技术的“黑盒”应用◥模式打破,让人们可以理解人工智能做▲出的决策。人工智能“黑盒”应用的问题在网络安全领域尤为重要,因为它Ψ不仅给结果的准确性认定带来了困难,而且会造成难以深入分析、无法≡追踪溯源的情况,甚至会导致人们对于人工智能技术的不信任。因此,在网络安全领域采用可解释人工智能方法,将有助于解决上述◥问题,使得基于人工智能构建的网络安全应用更容易被人们㊣所接受。


人工智能“黑盒”应用在网络安全领域中存在的问题


启明星辰对于前瞻性技术一直坚持积极探索的态》度,在2019年我们尝试将可解释人工∑智能的方法应用于之前基于深度学习算法所构建的网络安全威胁检测模型,取得初步成果,能够用可视化的方法直观◢标示出对算法∮模型所做出的决策产生重要影响的原始输入数据中的关键部分(即更可能包含有安全威◣胁的部分)。


Gartner发布2020十大战略性技术◥趋势

拥有三维含义╳的人工智能安全位列其中


2019年10月,Gartner发布了2020十大战略性技术趋势,其中“AI Security”(人工智能安全)位列其中。但是,这里的人工智能ξ安全不仅是指将人工智能技术↑用于网络安全防御,而是给出了它的三维含义,即保护AI赋能身上黑光一閃的系统、利用AI来提升∑安全防御以及对AI的♂恶意使用。


Gartner发布的2020十大战略性技术趋势


● 保护AI赋能的系统


保护AI赋能∞的系统主要是关注人工智能自身的安全问题。日前,一条关于一家美国★AI公司使用3D打印的面具破解包括支付宝、微信支付等人脸识别系统的新闻刷爆『了各大媒体☆,这正是AI赋能的系统遭受攻击的典型案例。此外,AI赋能的系统还会受到训练数据投毒、模型窃取、对◆抗样本等多种类型的攻击。未来,随着AI的日益广泛应用,这方面的问题将会越来〓越多地呈现在人∩们面前。因此,当我们采用AI赋能网络安全防御※系统时,也应关注其自身的安全问题。


● 利用AI来提升對于這一爪卻是沒有過多安全防御


利用AI来提升安全防御是网络安全领域最早关注的方面。Gartner在报告中指出不能仅依「靠机器学习作为安全解决方案中的单一防御技术,基于机器学习的安全工具也不是为了完全取代现那答應更是妄圖把死神給鎮壓起來有工具而设计的。这告诉我们不应过度神话机器学习等AI技术在网←络安全应用中的能力,而应保持理性态度,分析选择适合的应用场景,使我這一劍其发挥最大价值。


● 对AI的恶意使用


对AI的恶意使用也是近年来时常被提●及的话题,一个广为人知的实例是DeepFakes的恶意使用。DeepFakes是一款AI换脸工具,可将图片或视频中的人换★脸,恶意使用则包括伪造图片或视频用于欺诈、传播虚假消息、制作色情内容等。在网络安全领域,AI也可被利用来辅助攻〒击,例如Cyxtera公司演示了一个基于机器学习的钓鱼攻击生成器,可以自动构造出能骗←过检测系统的有效钓鱼链接及邮件。另一个知名案例是应☆用了强化学习算法A3C的自动渗透测试工具Deep Exploit,可实现一定程度上的自主学习卐生成漏洞利用♀载荷。借助AI能使得攻击更加自动化和难以防御,未来很有可星域能出现AI之间的攻防对抗。


个性动图分割线


随着人工智能与网※络安全的深入融合,越来越得到业界的关注与认可。未来,启明星辰将继续基于AI的恶意代码识别与威胁检测、用户实体行为分析、安全知↘识图谱等研究积累的基础上,与其他技术及可解释人工智能方法等相结合,向着打造“可用、实用、易用、好用”的基于AI的网络安∏全应用的目标不断前进,并紧密跟进人工智能安全的另☆两维含义所涉及的相关前沿技术研究,谱写AI赋能网身上络安全的新篇章。