正在阅读: 应用风险加剧 将AI关进笼子还需政策发力
首页> 科普频道> 科普头条 > 正文

应用风险加剧 将AI关进笼子还需政策发力

来源:科技日报2019-09-10 09:39

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  朱茵变杨幂的换脸视频犹在眼前,近日“换脸”APP “ZAO”又因其用户隐私协议不规范、存在数据泄露风险等网络数据安全问题被相关部门约谈。

  事实上,近年来,AI正在以一种超乎想象的速度迅猛发展,其背后隐藏的诸多问题也逐渐凸显。日前Facebook再次因数据安全问题受到关注,据外媒报道,一个存储了数亿Facebook用户电话号码的在线数据库泄露。面对AI治理难题,目前各国正加紧制定相关政策法规。

  大规模应用裹挟着诸多风险

  近年来,在AI产业的博弈中,各国都在全力争取发展先机。

  “无论从企业数量上还是投融资规模上看,美国和中国无疑是人工智能领域的重量级玩家。”国务院发展研究中心国际技术经济研究所研究一室副主任宫学源在《人工智能全球格局:未来趋势与中国位势》一书中提到,两国的科技巨头通过重新制定战略、大规模收并购等手段,已经在全球人工智能产业领域获得了极高的话语权。但从人均AI初创企业数量和人均投融资水平上看,英国、法国、德国和以色列等国家完全不落下风。日韩等国也正纷纷制定国家级战略,以期实现人工智能技术的反超和部分产业的引领。

  “机遇往往与挑战并存,AI大规模应用必将裹挟着诸多风险,如木马、病毒、僵尸网络等技术要素风险,电信网络诈骗、群体(算法)歧视等组织管理风险,色情信息、暴恐信息、虚假信息等在线内容风险。”北京师范大学网络法治国际中心执行主任吴沈括表示,因此,在给与AI足够的养分令其成长的同时,各国也都在汲汲探寻AI治理的方案。

  “民间”倡议百花齐放

  2018年,第40届数据保护与隐私专员国际大会上发布的《人工智能伦理与数据保护宣言》认为,应根据公平原则,在基本人权层面设计、开发和使用人工智能和机器学习技术;持续关注AI系统潜在影响和风险,并确立问责机制,实现“可控”;应改进人工智能系统的透明度和可理解度,以实现有效施行;作为整体“伦理设计”方法的一部分,应通过默认应用隐私原则和设计隐私来对人工智能系统进行负责任地设计和开发;应当减少和减轻因使用人工智能数据而可能导致的非法偏见或歧视。

  2019年,欧洲委员会发布《人工智能与数据保护指南》,也首先强调了人权和人的基本自由为先,特别是在个人数据保护方面。用于个人数据处理的人工智能研发应基于合法性、公平性、目的特定性、数据处理比例性、设计隐私与默认隐私、责任与合规展示(问责)、透明度、数据安全和风险管理等原则。

  与上述西方国家主导的宣言、指南相比,AI治理的中国路则出现了不一样的风景。法律层面,与大部分国家一样,《个人信息保护法》《数据安全法》《电信法》等相关法律正在拟定中;社群倡议方面,2019年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,明确指出了“AI治理八原则”:和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。清华大学人工智能与安全项目小组也提出“AI治理六原则”,即福祉、安全、共享、和平、法治、合作。

  2019年5月,北京智源人工智能研究院联合北京大学、清华大学、中科院等单位,共同发布《人工智能北京共识》,提出对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终保持向对社会有益的方向发展。

  AI治理中西方各有不同

  “从中西方国家社群团体的倡议指引中可以看出,双方治理AI在对人类共同福祉的追求、对公平公正价值的坚持、对系统管理风险的重视、对开放共享共治的倡导方面都持有相似的观点。”吴沈括指出,但在很多地方也体现出了差异。

  相较于西方国家,我国在遵循相同治理原则的基础上更希望能够实现人机和谐,如在“AI治理八原则”中的首条原则即为和谐友好,符合人类的价值观和伦理道德,促进人机和谐,服务人类文明进步。

  未来,东西方的融合交汇必将是AI治理的大趋势,动态持续的多边对话、以人为中心的顶层设计建构、着眼于应用场景的差别规范设计以及平衡安全发展的利益平衡规则都将成为东西方存异求同的立足点。”吴沈括说。(于紫月)

[ 责编:张蕃 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 70年时光流影 70行见证发展

  • 同心同根 深港青少年同升国旗

独家策划

推荐阅读
紫禁城古建筑巧妙地运用门窗来分割空间、采光或通风,它们集科学性、艺术性于一体,集实用、装饰为一体,其运用体现了古代工匠的智慧。
2019-09-20 09:31
当意外事故造成颅骨缺损时,我们该如何修复脑颅?根据患者的脑部CT数据进行设计,利用3D打印技术可制作出与缺损处完美匹配的“颅骨”。
2019-09-20 09:29
北京大兴国际机场即将迎来正式通航,作为屈指可数的超大型航空综合交通枢纽,坚持绿色建设理念,高效利用各种能源。
2019-09-20 09:28
据了解,2017年起,重庆市规划自然资源局会同财政、生态环境局申报山水林田湖草生态保护修复国家工程试点,2018年底获批入围国家第三批山水林田湖草生态保护修复工程试点。
2019-09-20 09:28
自然生态系统,包括森林、草原、荒漠、湿地、河湖水域、冰川、海洋等各类群,都有其自身运行的规律。其主要服务功能可分解为供给、调节、文化和支持四类。
2019-09-20 09:27
近日有媒体报道,部分小区物业开出了天价的5G基站建设协调费,一时间引发了网友们的高度关注。
2019-09-20 09:27
近日,国家计算机病毒中心发布了《移动APP违法违规问题及治理举措》,公布了APP和SDK(软件开发工具包)存在的六大类问题,包括远程控制、恶意扣费等八大类恶意行为、涉嫌侵犯公民个人隐私、涉嫌超范围采集公民个人隐私等。
2019-09-20 09:26
在国务院新闻办公室19日举行的省(区、市)系列新闻发布会上,北京市市长陈吉宁透露,北京大兴国际机场将在月底前正式通航,北京将进入航空交通“双枢纽”时代。
2019-09-20 09:23
近日,启东长江口碧空如洗、涛声阵阵,容量达8.5万立方米的全球最大的C型VLEC(超大型乙烷运输船)船用液化气储罐滚装上船,顺利交付。
2019-09-20 09:22
边坡工程灾害防控技术、核燃料闭式循环产业链配套关键工艺与装备、上天下海“杀手锏”武器装备关键零部件的专用表面改性材料和工艺、新型液压传动和流体静压蓄能风力发电机组……一项项惊为天人的科研成果的问世与“试车”,是对一代代兰理工人辛勤付出的回报。
2019-09-20 09:20
她是申纪兰,山西省平顺县西沟村党总支副书记,第一届至第十三届全国人大代表,“共和国勋章”获得者。为了让妇女得到真正的解放,申纪兰走家串户,向妇女宣传“劳动才能获得解放”的道理,同时努力做男社员的思想工作,积极争取男女同工同酬。
2019-09-20 09:19
英国自然旗下《科学报告》杂志近日发表一项环境学研究,比利时科学家考察了欧洲最大的沿海海豚种群之一,发现这些野生海豚的鲸脂和皮肤中或积聚有大量“混合”污染物——汞、多氯联苯、二(口+恶)英和工业液体。
2019-09-20 09:18
据英国《自然》杂志近日发表的一项基于小鼠的验证研究显示,一种癌症免疫疗法将能用于治疗某些心脏损伤。
2019-09-20 09:17
美国研究人员针对人类培养物和小鼠的研究表明,暂时禁用人体细胞内的单一蛋白或能保护人们免受普通感冒和其他病毒性疾病的侵害。
2019-09-20 09:16
千呼万唤始出来!据美国“极限技术”网站报道,Wi-Fi 6标准于16日正式发布,无线保真网络联盟(Wi-Fi联盟)目前正向具备合格硬件的制造商发放Wi-Fi 6认证
2019-09-20 09:15
据英国《自然》杂志19日发表的一项医学研究指出,人类体内的微生物,与出生方式有关:剖宫产婴儿的肠道菌群容易发生改变,且较易受到潜在致病菌的定植。
2019-09-20 09:08
9月19日14时42分,我国在酒泉卫星发射中心用长征十一号运载火箭,采取一箭五星的方式成功将“珠海一号”03组卫星发射升空。
2019-09-20 09:07
随着科学技术的快速发展,生活中指纹密码的应用越来越广泛。有鉴于此,有人说,指纹应用如此广泛,是不是意味着它比密码更加安全呢?
2019-09-19 09:23
近日,浙江大学农业与生物技术学院研究员王一州与英国格拉斯哥大学、剑桥大学的研究团队合作发现增强气孔动力学可以在不影响植物碳固定的情况下提高植物水分利用效率。
2019-09-19 09:21
经专家论证,历经两个月的水下考古调查,现已基本确认清代北洋海军旗舰“定远舰”的沉没位置,并出水一批沉舰遗物,这是2014年以来北洋甲午沉舰系列调查与研究工作的又一重大成果。
2019-09-19 09:20
加载更多