点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座
首页> 光明科普> 图文 > 正文

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

来源:光明网-科普中国2024-12-09 15:59

  编者按:习近平总书记指出,“科学普及是实现创新发展的重要基础性工作。”为助力高水平科技自立自强,中国科协科普部联合光明网推出“院士高端科普”栏目,邀请各领域院士就我国当下热点科技问题给予权威解答,服务引导更多科技工作者提升科研科普能力,促进全民科学素质提升,为科技强国建设贡献科普力量。#千万IP创科普

  党的二十大报告对加快建设网络强国作出了重要战略部署,网络强国建设已成为社会主义现代化国家建设的重要内容。随着网络空间崛起为继陆、海、空、天之后的第五大主权领域,我国面临着日益严峻的网络安全挑战。

  当前,人工智能的发展如火如荼,在推进网络强国建设的过程中,确保人工智能技术的安全可控,防范其潜在的网络安全风险,成为亟待解决的关键问题。

  人工智能在赋能人类社会、加快发展新质生产力、创建虚实融合新型网络空间的同时,正逐渐衍生出可能危及国家安全和人类安全的重大风险。去年,马斯克在内的一众全球范围内AI领域重要人士联合公告“应将缓解人工智能导致的灭绝风险,与其他社会规模风险(如大流行病和核战争)等同重视,作为全球优先事项”。

  大模型参数规模庞大,动辄上千亿甚至万亿,研发投入高达数百亿人民币,它们的兴起,开创了智能化应用新局面。但大模型自身无安全可信和伦理道德的特性,给人类社会带来了不利影响。

  一方面,大模型继承了深度学习的“黑盒子”特性,复杂的参数与神经网络结构使得决策和推理过程难以透明,从而可能引发虚假、偏见、侵权及伦理问题。另一方面,海量数据的处理也伴随着数据安全风险,隐私泄露、侵权以及恶意利用等问题层出不穷,其中“幻觉”、偏见和违反法律法规、风俗习惯等问题尤为棘手。

  面对这些挑战,我们急需一种能够保障信息系统可预期性的技术——可信计算。可信计算,顾名思义,就是在计算的同时进行安全防护,确保计算结果与预期一致,全程可测可控,不受外界干扰。这一技术将人类社会中行之有效的管理策略应用于计算机信息系统及网络环境中,通过建立信任根和信任链,层层递进,将信任关系扩展到系统的每一个角落,从而确保整个系统的可信度。

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

  在保证计算可信的同时,技术自主也是必要条件。中央“市场准入十条”(《关于完善市场准入制度的意见》)中的“自主可信计算”不是泛指可信计算技术,而是指源自中国、完全自主的可信计算技术——可信3.0,故文件中特地强调“自主”二字。

  我认为,网络安全实质是计算科学问题,而自主可信计算是保障信息系统可预期性的关键技术。通过构建主动免疫的可信计算体系,可以降低网络空间的脆弱性,提高应对未知恶意攻击的能力,从而有效保障国家网络空间的安全。

  中国在可信计算的发展上做出的战略部署可谓高瞻远瞩。自1992年立项研制免疫的综合安全防护系统以来,我们经过长期军民融合攻关应用,形成了自主创新的安全可信体系,开启了可信计算3.0时代。如今,可信计算已广泛应用于国家重要信息系统,如增值税防伪、彩票防伪、二代居民身份证安全系统等,为国家安全和社会稳定提供了有力保障。

  以国家电网电力调度系统的安全防护建设为例,发改委14号令要求,采用可信计算架构实现等级保护四级。如今,我们的电力可信计算密码平台已在三十四个省级以上调度控制中心得到广泛应用,覆盖上千套地级以上电网调度控制系统,涉及十几万个节点、约四万座变电站和一万座发电厂。这一举措有效抵御了各种网络恶意攻击,确保了电力调度的安全运行。相比之下,美国热推的“零信任架构”仅相当于可信计算3.0的一个访问控制功能子集,存在诸多问题和挑战,如架构漏洞多、缺乏科学原理支撑、网络无边界不符合主权原则等。

  面向未来,我的建议是,各级政府按照国家网络安全法律、战略制度要求,大力发展自主可信计算产业体系,为加快推进建设网络强国、数字中国做出重大贡献。

  (作者:沈昌祥,中国工程院院士、中央网信办专家咨询委员会顾问,光明网记者李欣哲整理)

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 巾帼共绘新时代

  • “世界市长对话·敦煌”活动外国嘉宾参访敦煌

独家策划

推荐阅读
十多位国内外医学“大咖”在接受“新华深读”栏目采访时表示:结节检出率升高,核心原因是检查设备精度的显著提升,让过去难以发现的微小结节“无所遁形”。随着医学影像技术的进步和体检普及度的提升,甲状腺、乳腺及肺结节的检出率呈上升趋势。
2025-10-13 10:26
现有将聚合物转化为金属或陶瓷的技术,往往会导致材料多孔、强度不足,而且部件会出现严重收缩,导致变形。这种3D打印工艺实现了从“制造零件”到“生长功能”的跨越,有望为航空航天、生物医疗、机器人等领域带来新的变革。
2025-10-13 10:24
一个国际科研团队在9日出版的《天体物理学杂志》上发表研究称,他们首次拍摄到两个黑洞相互环绕运行的无线电影像。由芬兰图尔库大学天文学家领衔的研究团队,瞄准一个异常明亮的星系核心中心区域名为OJ287的类星体,成功拍摄到其中两个黑洞相互绕行的珍贵画面。
2025-10-13 10:23
作为深远海风电产业链的“链主”企业,运达能源科技集团股份有限公司(以下简称“运达能源科技集团”)见证并引领了中国风电从无到有、从弱到强的全过程。2024年,中国风电新增装机容量达79.8GW,占全球新增装机总量的68.2%,这意味着,全球每新增3台风机,就有近2台落地中国。
2025-10-13 10:22
10月14日,一场赏心悦目的木星伴月将在凌晨上演,为初秋天宇增添一抹诗意。木星是一颗气态行星,也是太阳系中个头最大的行星,虽然距离地球比较远,但由于个头大,从地球上看起来非常明亮。
2025-10-13 10:19
团队进一步提出了跨平台系统设计方法论,包含二维-CMOS电路协同设计、二维-CMOS跨平台接口设计等,并将这一系统集成框架命名为“长缨(CY-01)”架构。据了解,团队下一步计划建立实验基地,与相关机构合作,建立自主主导的工程化项目,并计划用3至5年时间将项目集成到兆量级水平。
2025-10-13 10:18
日前,位于浙江杭州的国家重大科技基础设施——超重力离心模拟与实验装置的核心设备正式启用。
2025-10-11 09:44
近日,中国科学院广州地球化学研究所与国际合作团队在国际学术期刊《自然·地球科学》发表论文指出,海洋硫酸盐浓度的变化能够改变甲烷的消耗方式。
2025-10-11 09:43
著名科幻作家刘慈欣在小说《诗云》中曾描写过“微型白洞”,让很多人浮想联翩。有趣的是,白洞和黑洞在数学上是同一个“解”——它们的质量、角动量、电荷都相同,唯一的区别是时间反了过来。
2025-10-11 09:40
“金钉子”是定义和区别全球不同年代所形成的地层的“锚点”,用来划分全球地质年代界线。
2025-10-11 09:38
植物生长不仅依赖阳光雨露,更与土壤中“看不见的世界”密不可分——这里生活着大量微生物,它们附着在根系上,帮助植物吸收养分、抵抗逆境。
2025-10-11 09:32
5年来,坚持把创新摆在国家发展全局的突出位置,我国科技事业取得历史性成就、发生历史性变革,国家综合创新能力排名由2020年的第14位提升至2024年的第10位。
2025-10-10 10:16
在人工智能(AI)与神经科学的强强联合下,美国加州大学旧金山分校与艾伦研究所团队联合开发出一种名为CellTransformer的AI模型,助力绘制出目前最精细的小鼠脑图,共包含1300个脑区及亚区。
2025-10-10 10:13
美国麻省理工学院研究团队结合模拟计算与机器学习,研制出一种新型3D打印铝合金,不仅耐高温,强度更是传统铸造铝合金的5倍,且比未经机器学习辅助设计的合金强度高出50%。
2025-10-10 10:10
连日来,北方气温骤降,不少秋冬季独有的养生方式和健康说法随之而来,有些操作或说法听起来科学健康,但权威专家表示,如果开展不当反而会带来健康风险。
2025-10-10 10:07
国家粮食和物资储备局8日印发通知,对有效应对部分地区连阴雨天气影响、进一步做好秋粮产后服务和收购工作作出安排部署。
2025-10-10 09:55
甲烷的“寿命”与浓度变化的规律性,指向一个结论:火星上必然存在持续产甲烷的源头,且其“产量”会随季节变化。蛇纹石化反应虽能解释甲烷的持续存在,却无法说明其浓度的季节性动态变化,难以单独作为火星甲烷的主要来源。
2025-10-09 10:18
国庆假期,中国科技馆推出“双节共欢聚,科技乐翻天”系列主题科普活动、华夏科技学堂国庆特别活动、特效影院VR大空间沉浸体验、人工智能互动应用,与新开放的海洋展厅一起,为观众打造一场科普盛宴。
2025-10-09 10:17
对采集的891份浮选样品进行分析与鉴定,共获得约3.2万粒炭化植物遗存,发现的农作物种类有粟、黍、水稻、大豆与小豆。研究团队对东亚地区140余处考古遗址出土的小豆遗存进行比较,发现黄河流域、日本与韩国的小豆在不同阶段表现出差异明显的演化轨迹。
2025-10-09 10:16
”  一次和邻村牧民闲聊时,王海强得知有人靠卖草捆赚钱,心思顿时活络起来。据统计,今年科右前旗像王海强、宝音这样以卖草为主的牧民有150余户,草产品销售总额预计突破2000万元。
2025-10-09 10:15
加载更多