正在阅读: 靠AI阻击假新闻,或许没那么乐观

靠AI阻击假新闻,或许没那么乐观

2018-10-30 18:01来源:科技日报

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  近日,麻省理工学院计算机科学与人工智能实验室宣布与卡塔尔计算研究所合作,研究出一种可以鉴别信息来源准确性和个人政治偏见的AI系统。

  据报道,实验室研究人员利用这个AI系统创建了一个包含1000多个新闻源的开源数据集,这些新闻源均被标注了“真实性”和“偏见”的分数。并且,AI系统对其所评估的媒介有广泛的语境理解,不只单独从新闻文章中提取特征值,而是兼顾了维基百科、社交媒体,甚至根据URL和Web流量数据的结构来确定可信度。人类与假新闻的战争旷日持久,这次这个新的AI伙伴会帮助人类更快取胜吗?

  做法不难,但需要丰富数据源

  谈及AI的这个本事,中科视拓(北京)科技有限公司CEO刘昕表示:“相关做法并不难。我认为这是一个非常基础的文本分类,看介绍这个系统会标记出各类新闻是真的、假的、是否存在偏见,这是一个基础的算法,就像标记图片中的猫、狗一样,做出分类,然后可以识别一张新的图片是猫还是狗,所以这本身是一个比较简单的文本分类技术。”

  不过虽然原理不难,但实现难度不小。谈到实用性,刘昕认为,决定AI监测假新闻效率的关键在于识别数据的量级是否足够大、假新闻的来源和数量是否足够丰富。要成功判断出新闻是不是被捏造的,用来训练AI的假新闻的数据库必须够大。

  另外就是“如何抽取新闻文本中的信息”,是采用简单的分词的技术还是更高阶的文本语义理解。“有足够的假新闻用于学习,采用文本语义的信息抽取方式,可以让AI的工作更有效、准确率更有保证。”刘昕表示。

  在扩充数据量以及兼顾不同倾向的数据方面,这个新的AI系统作出有效改进:根据介绍,维基百科和推特被加入了系统的预测模型。正如研究者所说,维基百科页面的缺失也许说明了一个网站是不可信的,相关网页上也可能会提到这个问题的政治倾向如何。此外,他们还指出,没有经过验证的推特账户,或者使用新创建的没有明确标注的账户发布的消息,真实的可能性很低。

  消灭假新闻,AI也无法手到擒来

  不只这个系统,用AI阻击假新闻的尝试近年常有,不少大公司都有涉及。2017年初,Facebook曾推出Disputed标签,当网站上某些新闻被认为是错误的时,这个标签会出现在新闻下面,作为对读者的提醒。Facebook使用AI检查每天在Facebook上分享的数百万个链接,识别出其中的可疑内容,然后将它们发送给事实核查人员。当事实核查人员确定其为假时,Facebook就会减少访问范围,降低其在用户的信息流中的排序位置。听来理想,但在去年底,Facebook已经悄然放弃了这个标签功能,原因是这项努力并没有带来多大改善。追究可能的原因:确认一则消息为假需要至少两名事实核查员,这个应用过程太慢;对某些新闻给予特殊标记反而强化读者对它的印象;假新闻被标记,那部分为假或是无法证实真假的消息无法被标记等。

  虽然存在各种想象中的可能性,AI在检测假新闻方面也确实有一些优势和成效,但是,更核心的障碍或许在于连人类都无法在什么新闻是真是假、尤其是“偏见或倾向”的判断上达成一致意见。中科院自动化研究所研究员王金桥表示,AI的判断结果是训练的结果,而训练的数据来自人。如果机器学习的数据本身就是有偏见甚至偏差的,那AI的准确性很难保证。

  据了解,他们的AI系统只需检测150篇文章就可以确定一个新的源代码是否可靠,其在检测一个新闻来源是否具有高、低或中等程度的“真实性”方面的准确率为65%,在检测其政治倾向是左倾、右倾还是中立方面的准确率为70%。如何在大量含混不明、挖苦反讽、讳莫如深的政治话语中判断出倾向,目前来看,机器和人似乎一样迷惘。(崔爽)

[责编:蔡琳]

阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平在省部级领导干部专题研讨班开班式上讲话

  • 2019年春运:温暖回家路

独家策划

推荐阅读
据统计,2018年“宝贝报天气”活动共征集到视频作品3100余篇,直接参与人数超6000人,有155名小朋友获得“优秀气象小能手”称号。
2019-01-22 13:19
结果发现,人脑中神经元处理信息的效率更高,但猴脑中神经元的同步性和稳定性更好。
2019-01-22 10:03
张双南,中国科学院高能物理研究所研究员,他说,“科学精神可以总结为六个字:唯一、独立、质疑”——他是写诗的天文学家。
2019-01-22 10:03
澳大利亚弗林德斯大学日前宣布,该校研究人员研发出一种新型抗生素,动物实验表明它可有效抑制一种具有耐药性的肠道“超级细菌”。
2019-01-22 10:03
超低温状态下的双原子分子已经被世界上多个实验室制备出来,但多原子分子体系复杂程度大大增加,而且理论无法计算,10余年来观测超冷分子的碰撞共振一直是该研究领域在实验上的重大挑战。
2019-01-22 10:02
对贫金属星的研究有助于解开一系列关于围绕早期宇宙、元素起源、第一代恒星和银河系演化的科学问题。
2019-01-22 10:02
1月21日13时42分,我国在酒泉卫星发射中心用长征十一号运载火箭,成功将“吉林一号”光谱01/02星和搭载的灵鹊—1A星、潇湘一号03星发射升空,卫星均进入预定轨道。
2019-01-22 10:02
而探月团队的艰苦攻关,为“嫦娥奔月”铺就了坦途。在手把手传递之间,中国航天人追梦的脚步永不停息,也将激励着每一个人逐梦奔跑。
2019-01-22 10:02
据悉,北京世园会将整合各种会展、旅游、服务等各类资源,让游客能“一部手机游世园”,游览更加方便。
2019-01-22 10:02
新年伊始,经过约38万公里26天的飞行,嫦娥四号探测器成功在月背着陆。随后,嫦娥四号着陆器与巡视器互拍图像经“鹊桥”中继星传回,两面五星红旗在月球背面交相辉映。
2019-01-22 10:01
两颗卫星将与此前的“吉林一号”卫星组网,至此,由长光卫星技术有限公司自主研发的“吉林一号”卫星星座已有12颗卫星在轨运行。
2019-01-22 10:01
人类可能真的是孤独了太久,迫切地想要在宇宙间寻找自己的同类,所以时不时就会捕风捉影寻找一些外星人存在的证据。
2019-01-22 10:01
资料显示,装载DNA的容器是拥有知识产权的特别研制的太空基因容器,容器具有隔绝空间辐射等功能,可以实现生物基因的永久在轨保存。
2019-01-22 10:01
图为第35次南极考察任务期间,中国极地固定翼飞机“雪鹰601”降落南极冰盖之巅。在第34次南极考察期间,科考队员搭乘“雪龙”号,成功完成了我国首次南极阿蒙森海综合调查。
2019-01-22 10:00
他们利用被称为“基因剪刀”的基因编辑技术,开发出一个新系统,可以确定某种特定抗生素能靶向作用于致病菌的哪些基因。
2019-01-22 10:00
 NASA与中国国家航天局(CNSA)上月探讨了使用LRO上的仪器,对中国的嫦娥四号着陆器触及月背时的尘埃进行观测的可能性。
2019-01-22 10:00
据英国《每日电讯报》网站近日报道,与会太空专家警告说,行星间的时差和宇航员性格不合可能是移民火星的最大“拦路虎”。
2019-01-22 10:00
据美国每日科学网站近日报道,瑞士洛桑联邦理工学院(EPFL)和苏黎世联邦理工学院的科学家,携手开发出一种微型柔性机器人,可根据周围环境而改变形状。
2019-01-22 10:00
为期40天的2019年春运即将于1月21日拉开大幕。
2019-01-22 09:33
20强将进入4月21日-25日在大连理工大学举行的总决赛。
2019-01-21 19:02
加载更多