正在阅读: AI学会造假,我们该如何应对
首页> 科普频道> 科普头条 > 正文

AI学会造假,我们该如何应对

来源:科技日报2019-04-17 08:52

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  奥巴马会和特朗普说一样的话,信不信?有视频为证。在一个对比视频中,二人不仅话语一致,连话语节奏甚至面部肌肉的动作都是一致的,但谈吐风格却能保持各自特点。

  “这是一种被称为GAN(生成对抗网络)的新兴技术。”日前,香山会议召开以“信息隐藏与人工智能”为主题的学术讨论会,北京电子技术应用研究所副研究员李鹏超介绍,GAN是一种生成模型,通过将两个神经网络的对抗作为训练准则,可以自动生成图像,包括自动篡改图像。实际上早在2015年,GAN就被用于制作教皇表演“抽桌布”戏法的假视频,由于过于逼真,很快就火遍网络。

  据统计,大量的合成信息占据了互联网,如合成声音、生成图像、AI合成不存在的人像等,约占网络信息的30%。“眼见为实”很可能已经靠不住了。

  机器人水军已经很成规模

  人们判断真假,经常会说“真的自然”。而人工智能造假,将在尽可能“自然”的前提下,完成自动生成。

  “淘宝上的机器人水军已经很成规模了。”浙江大学管理学院教授孔祥维举例道,例如商品评价已经由机器自动生成,不再需要雇人“灌水”。

  “自动生成带来的危机是规模性、密集度的大幅增加。”孔祥维说。以淘宝评价为例,如果虚假评价如潮水般涌入,它甚至不需要做到真假难辨,就能将真实评价淹没。

  在社会事件的舆论方面,“机器人水军如果操纵舆论,将使国家安全置于风险之中。”孔祥维说。

  除了自动生成之外,GAN的开源性也带来巨大的隐患。开源代码,意味着谁都可以用,代码一经开源将“变幻无穷”。相关研究人员表示:“这就意味着对这一代码的研究必须比对手更透彻,才能以不变应万变。”

  防造假需嵌入抗编辑水印

  抖音等微视频APP的普及,使得视频的发布非常频繁。有没有办法让公众的自拍不像前文提到的视频一样被篡改?清华大学计算机科学与技术系副教授王道顺表示,非法用户除了借助视频编辑工具复制后再修改,甚至未经授权转拍视频内容。这些操作都是为了得到可以任意修改的“白板”,“我们正在探索基于深度学习的抗编辑视频水印技术。”王道顺说。

  这就要求水印在视频中是隐藏着的,而且不能够被编辑,人工智能的深度学习技术被用来嵌入这些“入木三分”的水印。王道顺表示,他的团队希望能够完成嵌入和检测两方面的技术输出。

  网络对抗进化为智能化平台间的对抗

  GAN的魔力在于两个神经网络之间的竞争,通过让两个神经网络对抗,人工智能深度学习从识别事物升级到有能力创造事物。

  技术都有两面性,人工智能的“造假术”也可被加以利用。信息隐藏技术可以借用人工智能技术和思路,例如利用神经网络的对抗生成隐藏信息,获得人工智能相关技术与生俱来的自适应、海量等特点。相关专家表示,深度学习在许多模式识别领域取得了巨大的成功,给信息隐写和隐写分析带来新的方法和挑战。

  对于信息隐藏的基础研究者来说,因为“思路不同”,传统的分析手段难以发现的隐藏信息很可能在人工智能的深度学习模式下被轻易破解。香山会议就新课题的紧迫性进行了讨论,专家认为:人工智能的发展使得网络对抗从人与人的对抗进化为智能化、自动化的平台间对抗,作为数据保护和隐蔽通信中的关键技术,信息隐藏技术必须有所改变。(张佳星)

[ 责编:赵清建 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 黑龙江:订单种植模式助农脱贫增收

  • 法国国庆节阅兵式致敬抗疫公民

独家策划

推荐阅读
有网友认为,该研究远超小学生能力范围,项目的立意、实验设计堪比博士生科研水平。更耐人寻味的是,涉事小学生的父母为中科院昆明动物研究所研究人员,“或涉嫌学术腐败”。
2020-07-15 14:51
科创中国OnTech“技贸通”韩国生物医药领域重点项目线上路演,将聚焦生物医药领域,并邀请7位韩国创新企业代表参与,业内专家点评,为中韩优质技术项目对接搭建平台。
2020-07-15 13:26
据中国探月工程官方微博消息,7月15日5时30分,在月球背面的“玉兔二号”月球车顺利唤醒。截至目前,嫦娥四号着陆器和“玉兔二号”月球车已度过559个地球日,两器的顺利唤醒标志着“嫦娥”携手“玉兔”进入第20月昼工作期,不断创造着新的记录。
2020-07-15 10:19
会上透露,2020年我国南方暴雨影响范围广,持续时间长,极端性强,局地强降水重叠度高。从暴雨持续时间、强度和影响范围来看,今年长江流域持续性暴雨灾害比1998年偏弱。其中,致灾原因相似(1998年还有“二度梅雨”的影响),即副高北抬后南落且维持,但影响时间没有1998年长,影响面积也没有1998年大(1998年是全流域)。
2020-07-15 10:18
瑞典科学家利用欧洲同步辐射光源发现,像鲨鱼、硬骨鱼和四足动物一样,棘胸鱼在颌骨内侧生长新的牙齿。这次的发现改变了人们对牙齿起源的理解,棘胸鱼也许就是所有脊椎动物牙齿的真正起源。
2020-07-15 10:07
弄清家养动物的起源与驯化相关问题,对家养动物的保护和利用,以及了解人类自身的进化历史和疾病发生都具有重要意义。
2020-07-15 10:06
豆科在全世界广泛分布,其用途之大不亚于禾本科。虽然在农业生态系统中,大豆等农作物对邻体可能有利,但在天然林中,豆科植物的作用并不明确。
2020-07-15 10:04
团队联合中国科学院研发力量,针对频段71GHz—86GHz毫米波通信的大气窗口,自主研发的全套E波段毫米波芯片,能完全满足5G通信对传输速率的需求。
2020-07-15 10:02
C-2可算是一款相对比较“奇葩”的运输机:其基本数据接近战略运输机,属于比较高端的战术运输机,但其某些性能又与战术运输机有一定差距。
2020-07-15 10:01
英国国防部正考虑裁军约2万人,将裁军后节约的资金投入到太空战和网络战等新兴军事力量建设。英国在太空战、网络战等新兴力量建设上本就存在不足,要迅速形成新的战斗力绝非一日之功。
2020-07-15 10:00
Krasukha系列系统是一款集成度很高的车载高功率微波干扰系统,可对预警机实施干扰,尤其针对美国E-3预警机和其他使用S波段的系统。
2020-07-15 09:59
外观设计上,列车使用了土耳其郁金香元素、土耳其交通部形象标识和腰带的串联设计,整车犹如一朵灿烂的郁金香盛开在亚欧大陆桥上。
2020-07-15 09:58
近一个月来,连续不断的雷暴雨,后期可能还会出现的病虫害,令长江中下游稻麦轮作区的种植大户们心生“不安”。
2020-07-15 09:57
本次试验的重组腺病毒疫苗是由俄卫生部加马列亚流行病与微生物学国家研究中心和俄国防部第48中央科研所共同研发。
2020-07-15 09:54
由于骆驼科动物来源的抗体对人源抗体高度保守,它们或许只能在人体内产生较低的免疫反应,但可以用来开发完善的人源化策略。
2020-07-15 09:51
美国科学家报告称,未达到器官移植要求的受损人肺,可通过与猪的交叉循环进行修复。鉴于现在全球都面临移植供体短缺的问题,受损肺脏修复技术有望为人类扩充适合移植的器官库。
2020-07-15 09:50
研究人员表示,可将IGHV3-53抗体作为对新冠肺炎免疫反应的关键要素,这些抗体的水平可用作疫苗试验成功与否的一个间接标志。
2020-07-15 09:49
欧洲科学家就道路交通产生的塑料微粒污染,在全世界范围内的大气传播进行了建模研究,发现这些塑料微粒被输运到了遥远的区域,包括北极。
2020-07-15 09:45
此项新的研究,对了解三叠纪海洋生态系统食物网的营养结构,以及早期新鳍鱼类的演化、分类和生物地理均具有重要意义。
2020-07-15 09:42
国网天津电力介绍,人工智能配网带电作业机器人研发由“改革先锋”“时代楷模”张黎明牵头完成。
2020-07-15 09:42
加载更多