正在阅读: 戴上“白帽子” 人工智能投身网络安全攻防战
首页> 科普频道> 科普头条 > 正文

戴上“白帽子” 人工智能投身网络安全攻防战

来源:科技日报2019-04-15 09:09

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

  据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

  正在赋能网络安全

  “人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

  先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

  “例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

  360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

  “人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

  具备明显“过人之处”

  与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

  在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

  “人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

  不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

  “传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

  不能靠它包打天下

  “虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

  邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

  “另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

  闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

  “使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

  脆弱面带来安全风险

  人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

  “一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

  张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

  “人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

  对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

  来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。(记者刘园园)

[ 责编:张蕃 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中国首座大跨度高铁斜拉桥开始铺轨

  • 沈阳市郊东部棋盘山突发山火 正紧急扑救

独家策划

推荐阅读
携号转网,是促进电信市场竞争的一个硬措施。但是,事实证明,不解决市场竞争的结构性问题,硬措施也一样被软套路所消解。
2019-04-18 09:35
对地球气候的科学诊断,要依赖一些数据指标:全球平均温度、海平面高度、南极冰川、山地冰川等。
2019-04-18 09:29
国家发改委近日下发关于征求对《推动汽车、家电、消费电子产品更新消费及促进循环经济发展实施方案(2019-2020年)(征求意见稿)》意见的函。我国还将进一步支持绿色智能家电发展,加大对节能、智能家电研发的支持力度,普及推广绿色节能技术,深化网络化、智能化技术在家电产品中的融合应用。
2019-04-18 09:24
随着生活方式、环境等综合因素的变化,我国最常见的恶性血液肿瘤之一——淋巴瘤发病率不断上升,逐渐成为国内公众健康的一大挑战。总体来讲,肿瘤的发病外因包括化学因素、物理因素、放射因素、病毒感染等,内因则为人体本身细胞、基因的突变。
2019-04-18 09:20
这是位于贵德县尕让乡松巴村附近的丹霞地貌(4月16日无人机拍摄)。地处黄河上游河段的青海省海南藏族自治州贵德县是黄土高原向青藏高原的过渡地带,黄河水流经于此,大河两岸壮美雄浑,碧水丹山相映成画,有着“天下黄河贵德清”的美誉。
2019-04-18 09:42
肯尼亚等非洲国家的干旱地区,在参加过中国主办的雨水积蓄利用技术国际培训班的学员带动下,用于积蓄雨水的水窖已经在一些区域推广,显著改善了当地居民的生活。
2019-04-18 09:31
杨培东介绍,在2003年的时候,其研究团队启动了太阳神计划,目的是模仿自然界,利用半导体和催化剂,把二氧化碳转化成有用的产品。2014年,该团队研发的人工光合作用系统,将太阳能转化为化学能的效率提高到8%—10%,远超于绿色植物0.5%的转化率。
2019-04-18 09:18
近日,由4名尼泊尔测量人员组成的团队从加德满都出发,前往珠穆朗玛峰南坡大本营,开始自主测量珠峰高度。野外测量完成后,在严密理论基础上计算出珠峰峰顶海拔高程为8848.13米(已减去积雪厚度0.92米),并向世界公布。
2019-04-18 09:17
随着人脸识别、语音识别和自动驾驶日益成为关注焦点,人工智能(AI)与社会、人类生活融合程度正在快速演进。
2019-04-18 09:28
“中国旧称震旦,从中华震旦角石这个名字可以猜出来,这是只有在咱们国家才会出现的一种角石。近日,北京海关向北京自然博物馆移交了76件罚没化石及古生物制品,并在现场进行了化石及古生物制品展示。
2019-04-18 09:16
一个蓝色的星系发出的光在经过一个明亮红星系时,被后者的引力透镜效应扭曲成一个几乎完整的环——爱因斯坦环。星系或者星系团作为引力透镜,还会对超新星甚至单个恒星产生引力透镜效应,让观测者看到超新星或者恒星的多重像。
2019-04-18 09:16
为满足低碳、绿色和可持续发展的时代需求,科学推进应对气候变化、防灾减灾和生态文明建设,中国气象局气候变化中心日前发布《中国气候变化蓝皮书(2019)》,提供中国、亚洲和全球气候变化的最新监测信息,科学客观地反映气候变化的基本事实。
2019-04-18 09:30
在深邃浩渺的宇宙,除了恒星、尘埃、气体,还有一种物质如幽灵般存在:暗物质。“在多年观测中,我们也发现,发光物质产生的引力不足以解释星系的引力为何那么大,所以可能存在一些不发光物质,即暗物质。
2019-04-18 09:15
看来,要想不通过短伽马暴而仅靠探测X射线爆发来发现双中子星并合事件、寻找磁星,还真是困难重重啊。XT2作为宇宙深处磁星X射线辐射冲过层层云霭到达我们的曙光,将给未来的引力波探测、中子星研究带来新的希望。
2019-04-18 09:14
北京时间4月17日凌晨,高通与苹果通过官网宣布和解,苹果将向高通直接支付专利许可费。随着苹果与高通在2007年签署的专利许可协议到期,2016年一季度,苹果拒绝向高通支付授权许可费,2017年,苹果带领四大合约制造商(代工厂)联合抵制高通专利使用费。
2019-04-18 09:14
近日,国际通信卫星组织运营的高通量地球静止轨道通信卫星Intelsat 29e(IS-29e)发生故障并最终解体。姜宇模拟计算发现,若此次旋转解体产生的较大碎片与定点位置西经37.5度Telstar 11N卫星发生碰撞,将产生10厘米以上碎片108个,5厘米以上碎片450个。
2019-04-18 09:12
氦合氢离子,由一个氦原子和一个质子组成,是宇宙早期阶段形成的第一种类型的分子键。过去为在太空中检测氦合氢离子所做的尝试,受限于分光仪在适当波长的有限分辨率。氦合氢离子的出现被认为是宇宙演化的最重要标记之一,其不但是化学诞生的第一步,也是所有恒星、行星与生命诞生的起点。
2019-04-18 09:12
综合运用无线电、地磁、光学和探空火箭等多种探测手段,子午工程可以连续监测地球表面20—30公里以上直到几百公里的中高层大气、电离层和磁层,以及十几个地球半径以外的行星际空间环境参数。
2019-04-18 09:05
3位航天公益形象大使,分别是中国首飞航天员、航天英雄杨利伟,中国科学院院士、中国航天科技集团有限公司中国运载火箭技术研究院长征三号甲系列火箭总设计师姜杰,著名主持人汪涵,他们将参加主场活动和重点宣传科普活动。
2019-04-17 18:41
在过去的20多年,矗立在江尾海头的兴澄特钢,以科技创新和技术突破,不断引领中国特钢产业转型升级。目前,兴澄特钢正在牵头承担国家十三五重点研发计划课题《轴承钢冶金质量控制基础理论与产业化关键共性技术研究》,与钢铁研究总院等共同攻关。
2019-04-17 10:28
加载更多