点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:堵住AI安全漏洞,法规之外更需技术制衡
首页> 科普频道> 科普头条 > 正文

堵住AI安全漏洞,法规之外更需技术制衡

来源:科技日报2020-01-14 09:20

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  如今,AI换脸在网上被玩的不亦乐乎。喜欢哪个明星,就把所有电视剧主角都换成他的脸,如果只是单纯娱乐,貌似也无可厚非。但可怕的是,你的脸很可能会被“植入”到色情视频然后被打包贩卖,甚至你的手机、电脑、智能门锁等应用了人脸识别技术的设备也可能被AI换脸轻松攻破。有人用AI视频造假,亦或是犯罪,似乎就没那么好玩了。

  刷脸支付、人脸识别……不可否认,人工智能技术给人们的生活带来了诸多便利。“但我们也应当正视,当前人工智能技术还处在初步发展阶段,仍然面临着一些挑战。”清华大学教授、清华大学人工智能研究院基础理论研究中心主任朱军说。

  “任何技术都是一把双刃剑,当AI技术应用到越来越多的场景,由于AI算法本身存在漏洞所引发的安全问题必须引起足够重视。同时,AI技术的滥用也将引发安全隐患,比如隐私与伦理问题。当AI开始触碰边界问题,安全性就成为AI发展过程中必须思考的课题。”北京瑞莱智慧科技有限公司(以下简称RealAI)高级产品经理张旭东在接受科技日报记者采访时说。

  技术漏洞带来AI安全问题

  回家,到单元楼门口,刷一下脸,门就开了。人脸解锁已经成为生活中最常见的AI应用场景之一。然而,很少有人会想到,当前的AI算法存在明显的“安全盲点”。

  RealAI团队就曾做过相关研究:针对识别算法漏洞,可生成一类名为对抗样本的“噪音”,恶意误导AI算法输出非预期的结果,诱导识别系统出错。团队成员通过一张打印上对抗样本“噪音”的纸,成功地让研究对象在识别系统下实现“隐身”,如果再把纸贴在其他实物上,比如小车模型上,也可以让该物体在识别系统下完全“消失不见”。此外,他们还研发了一种带有噪点的“眼镜”,只要戴上,即使不是本人,也能成功破解商用智能手机的刷脸解锁,甚至包括门锁等其他人脸识别设备。

  “AI算法漏洞本质上是安全问题的一大类,而解决安全问题往往是攻防两端不断对抗、演化的过程。”张旭东说。目前对主流的攻击手段都有比较有力的防御手段,如可以通过训练模型去除对抗“噪音”,或是检测出对抗样本以后将其从数据中去除,以及使用攻击算法生成大量对抗样本对模型做对抗训练等方式来解决这些问题。

  由于AI换脸技术也在不段进化,早期换脸技术生成的视频中人物往往不会眨眼,可根据一些较为明显的特征直接肉眼判断。但随着深度伪造技术的不断演化,这些鉴别方法已不再有效。

  “面对这种情况,我们会根据当前市面上流行的换脸算法生成海量的训练样本,再结合贝叶斯学习处理还未出现的新型虚假视频。简单理解,就是基于主流的甚至更为领先的生成技术制作出大量逼真的假视频,再利用这些假视频训练出一个新的模型。做的假视频越逼真,训练出来的模型分辨能力就越强。”张旭东说。

  要守好技术和法规两道关

  “AI技术滥用最显性的问题在于个人信息被轻易‘操纵’,这背后可能会引发隐私泄露、身份危机,而且还会催生出更加隐秘、难以侦察的新型黑产,如色情黑产、金融欺诈等。”张旭东说。

  此外,AI技术滥用的潜在效应还将蔓延到大众的信息获取和社会信任层面,引导公众舆论、引发社会信任危机,比如美国就曾流出国家领导人被恶搞的视频,制作者利用视频煽动政治暴力、破坏选举、扰乱外交。长此以往,难以辨别真相的公众无法选择相信还是不相信,如果选择相信可能会继续给不法分子带来可趁之机,如果选择不相信则可能带来长期的社会冷漠。

  张旭东表示,AI安全问题牵一发而动全身,守好技术和法规两道“关卡”是当务之急,同时需要联动社会各界力量,从监管机构、AI科技企业到普通公众共同重视、共同发力才能真正的从根本上使其良性发展。

  欣喜的是,AI安全问题已经引起国内相关监管机构的重视。此前,网信办就正式发布《网络音视频信息服务管理规定》,指出自2020年1月1日起,AI造假音视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:按照国家有关规定开展安全评估、以显著方式予以标识非真实音视频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

  “当然,最有效、最可行的解决方法仍是依靠技术制衡技术。”张旭东说,这主要包括两方面,一是开发出高精度的AI检测算法与检测产品,从源头制止虚假内容的泛滥传播;二是开发出相应的“防火墙”技术,从防御端铸造高墙,保障配备了人脸识别系统的公共安全设备攻不可破。(付丽丽)

[ 责编:张蕃 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “雪龙2”号完成任务抵达开普敦港

  • 武汉实施进出人员管控

独家策划

推荐阅读
近日据报道,德国能源巨头意昂集团最近发布的一份研究报告显示,5G网络将大幅增加数据中心的耗电量,由此产生的废热可用于市政供暖。
2020-01-22 09:34
南开大学生命科学学院、药物化学生物学国家重点实验室教授刘林团队通过完全化学小分子的方法,成功将卵巢颗粒细胞重编程为具有生殖系转移能力的诱导性多能干细胞,进而分化为卵子,并通过正常受精获得健康小鼠。
2020-01-22 09:30
DNA几乎是无人不知、无人不晓。作为我们的遗传物质,人体内大部分DNA都紧密折叠在细胞核中的染色体里。癌症,是全人类面临的恶性疾病。数十年来,科学家们一直试图从DNA中找到癌症的起因和治癌的“灵丹妙药”。作为DNA的聚居地,染色体自然是研究的重点目标。
2020-01-22 09:29
近日,人力资源社会保障部印发《关于进一步支持和鼓励事业单位科研人员创新创业的指导意见》(以下简称《指导意见》),明确支持和鼓励科研人员离岗创办企业,同时支持和鼓励科研人员兼职创新、在职创办企业。
2020-01-22 09:28
天文学是一门观测的科学。原本从事理论研究的邓李才,成了给望远镜选址的实干家。SONG中国项目启动至今已过去11年,还在跟SONG项目“死磕”的邓李才,已经两鬓斑白。
2020-01-22 09:26
据英国《自然·可持续性》杂志21日发表的一项环境学研究,美国斯坦福大学科学家提出了加州林火管理中无法广泛实施计划性火烧的三类社会政治障碍,分别为风险类障碍、资源类障碍和监管类障碍。
2020-01-22 09:23
在最新研究中,研究人员比较了传统大豆油、降低了亚油酸含量的转基因大豆油、椰子油以及补充了豆甾醇的椰子油这几种饮食对雄性小鼠的影响。
2020-01-22 09:23
据美国《科学新闻》网站20日报道,美国加州理工学院日前发布公报说,该校科学家在太阳系内发现了首颗完全在金星轨道内运行的小行星,这颗小行星可能因为与太阳系内行星碰撞而坠入现有轨道。
2020-01-22 09:22
据美国太空网近日报道,美国太空探索技术公司(SpaceX)掌门人埃隆·马斯克表示,鉴于该公司“载人龙”(Crew Dragon)飞船飞行中止测试取得成功,载人飞行可能于今年第二季度进行,但具体起飞时间及任务时长仍是未知数。
2020-01-22 09:21
根据英国《自然·通讯》杂志21日发表的地球科学研究,美国国家航空航天局(NASA)的研究人员报告称,最新证据显示,澳大利亚西部的亚拉布巴陨石坑或是地球上现存最古老的撞击构造,超过此前纪录2亿多年。
2020-01-22 09:19
针对武汉发生的肺炎疫情,日本长崎大学医齿药学综合研究科临床研究药学研究室准教授北里海雄认为,“不排除既存的药物有治疗效果,随着更多的患者被临床治愈康复出院,最佳的治疗药物及治疗方案也将会浮出水面”。
2020-01-22 09:19
近年来不断发现来自太阳系外的有着极端双曲线轨道的天体,引发了科学家的关注。结果发现,近年来发现的奥陌陌(1I/2017 U1,Oumuamua)和鲍里索夫彗星(2I/2019 Q4,Borisov)两个双曲线轨道天体,都很可能来自太阳系外。
2020-01-22 09:17
近期,我国湖北省武汉市及北京、广东等多个地区发生新型冠状病毒感染的肺炎疫情。截至1月21日21时,全国累计报告确诊病例309例。疫情牵动人心,怎样防疫、治疫,已经成为我国医药学界急需解决的问题。
2020-01-22 09:16
21日下午16时,广东省政府召开新闻发布会,通报新型冠状病毒感染肺炎疫情及应对防控情况。
2020-01-22 09:15
20日下午,中国卫星海上测控部所属的2艘测量船远望3号远望7号,在圆满完成长征五号遥三火箭、通信技术试验卫星五号等3次海上测控任务后,顺利停靠码头。
2020-01-22 09:14
一架重约35千克的八轴旋翼无人机缓缓升空,当升至几十米的高度时,分别向100米外的地面A、B两点射出一对纠缠光子,两个光子在历经大气湍流、雨水、阳光等干扰后,仍能几乎完好地抵达地面。
2020-01-22 09:12
与刚刚过去的2019年一样,2011年的诺贝尔物理学奖也曾花落天体物理学领域。当时得奖的三位科学家的主要贡献是,通过观测宇宙中的“标准烛光”Ia型超新星发现宇宙的加速膨胀。
2020-01-21 09:18

寒冬腊月时节,正在陕西省镇巴县市场监督管理局挂职的西北农林科技大学食品科学与工程专业博士生习林杰,心里美滋滋的。他依靠所学知识帮助陕西省11个深度贫困县之一的镇巴县建立了腊肉全产业链标准与追溯体系。

2020-01-21 09:16
20日,武汉市成立新型冠状病毒感染的肺炎疫情防控指挥部。尽量减少或取消一切不必要的大型公众集会,协调各方资源加强物资储备和供应,确保疫情“早发现、早报告、早隔离、早治疗”。
2020-01-21 09:10
在四川省稻城县亚丁国家级自然保护区,雪山是最美的自然景观之一。雪山装点下的稻城县,格外富有韵味。
2020-01-21 09:08
加载更多