点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座
首页> 光明科普> 图文 > 正文

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

来源:光明网-科普中国2024-12-09 15:59

  编者按:习近平总书记指出,“科学普及是实现创新发展的重要基础性工作。”为助力高水平科技自立自强,中国科协科普部联合光明网推出“院士高端科普”栏目,邀请各领域院士就我国当下热点科技问题给予权威解答,服务引导更多科技工作者提升科研科普能力,促进全民科学素质提升,为科技强国建设贡献科普力量。#千万IP创科普

  党的二十大报告对加快建设网络强国作出了重要战略部署,网络强国建设已成为社会主义现代化国家建设的重要内容。随着网络空间崛起为继陆、海、空、天之后的第五大主权领域,我国面临着日益严峻的网络安全挑战。

  当前,人工智能的发展如火如荼,在推进网络强国建设的过程中,确保人工智能技术的安全可控,防范其潜在的网络安全风险,成为亟待解决的关键问题。

  人工智能在赋能人类社会、加快发展新质生产力、创建虚实融合新型网络空间的同时,正逐渐衍生出可能危及国家安全和人类安全的重大风险。去年,马斯克在内的一众全球范围内AI领域重要人士联合公告“应将缓解人工智能导致的灭绝风险,与其他社会规模风险(如大流行病和核战争)等同重视,作为全球优先事项”。

  大模型参数规模庞大,动辄上千亿甚至万亿,研发投入高达数百亿人民币,它们的兴起,开创了智能化应用新局面。但大模型自身无安全可信和伦理道德的特性,给人类社会带来了不利影响。

  一方面,大模型继承了深度学习的“黑盒子”特性,复杂的参数与神经网络结构使得决策和推理过程难以透明,从而可能引发虚假、偏见、侵权及伦理问题。另一方面,海量数据的处理也伴随着数据安全风险,隐私泄露、侵权以及恶意利用等问题层出不穷,其中“幻觉”、偏见和违反法律法规、风俗习惯等问题尤为棘手。

  面对这些挑战,我们急需一种能够保障信息系统可预期性的技术——可信计算。可信计算,顾名思义,就是在计算的同时进行安全防护,确保计算结果与预期一致,全程可测可控,不受外界干扰。这一技术将人类社会中行之有效的管理策略应用于计算机信息系统及网络环境中,通过建立信任根和信任链,层层递进,将信任关系扩展到系统的每一个角落,从而确保整个系统的可信度。

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

  在保证计算可信的同时,技术自主也是必要条件。中央“市场准入十条”(《关于完善市场准入制度的意见》)中的“自主可信计算”不是泛指可信计算技术,而是指源自中国、完全自主的可信计算技术——可信3.0,故文件中特地强调“自主”二字。

  我认为,网络安全实质是计算科学问题,而自主可信计算是保障信息系统可预期性的关键技术。通过构建主动免疫的可信计算体系,可以降低网络空间的脆弱性,提高应对未知恶意攻击的能力,从而有效保障国家网络空间的安全。

  中国在可信计算的发展上做出的战略部署可谓高瞻远瞩。自1992年立项研制免疫的综合安全防护系统以来,我们经过长期军民融合攻关应用,形成了自主创新的安全可信体系,开启了可信计算3.0时代。如今,可信计算已广泛应用于国家重要信息系统,如增值税防伪、彩票防伪、二代居民身份证安全系统等,为国家安全和社会稳定提供了有力保障。

  以国家电网电力调度系统的安全防护建设为例,发改委14号令要求,采用可信计算架构实现等级保护四级。如今,我们的电力可信计算密码平台已在三十四个省级以上调度控制中心得到广泛应用,覆盖上千套地级以上电网调度控制系统,涉及十几万个节点、约四万座变电站和一万座发电厂。这一举措有效抵御了各种网络恶意攻击,确保了电力调度的安全运行。相比之下,美国热推的“零信任架构”仅相当于可信计算3.0的一个访问控制功能子集,存在诸多问题和挑战,如架构漏洞多、缺乏科学原理支撑、网络无边界不符合主权原则等。

  面向未来,我的建议是,各级政府按照国家网络安全法律、战略制度要求,大力发展自主可信计算产业体系,为加快推进建设网络强国、数字中国做出重大贡献。

  (作者:沈昌祥,中国工程院院士、中央网信办专家咨询委员会顾问,光明网记者李欣哲整理)

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2025世界航海装备大会在福州举行

  • 海军83舰编队抵达泰国进行友好访问

独家策划

推荐阅读
世界气象组织(WMO)近日报告称,2024年的大气二氧化碳浓度创下历史最大增幅,达到有记录以来的最高水平。” 
2025-10-17 09:51
10月17日,《科学》发表了庾强团队的一项重要成果。
2025-10-17 09:46
据国家粮食和物资储备局最新发布的消息,今年夏粮旺季收购已于9月底结束,累计收购小麦10795万吨。
2025-10-17 09:42
监测显示,15日新疆、西藏、青海、甘肃、内蒙古等地出现7至8级大风,局地阵风10级;新疆、内蒙古中东部、黑龙江、吉林、辽宁等地最高气温下降6℃至10℃,局地12℃以上。
2025-10-17 09:41
10月14日,随着满深502-H3井钻头穿透8380米地层,这口历经岩层卡阻、垮塌风险与高含硫考验的超深井成功完钻,成为塔里木油田“十四五”期间第223口8000米级超深井。
2025-10-17 09:38
高分辨光谱成像芯片“玉衡”,实现了亚埃米级光谱分辨率、千万像素级空间分辨率的快照光谱成像。
2025-10-16 09:50
10月13日至15日,第十四届中国国际专利技术与产品交易会在大连举行。近日,天津市河东区大王庄街社区卫生服务中心完成了天津市国产九价HPV疫苗的首针接种,而这背后,离不开专利技术的支撑。
2025-10-16 10:06
10月的上海淀山湖波光粼粼,岸边的东方绿舟国防园已万事俱备,只待“2025年全国青少年智能无人系统应用大赛(IUSAC2025)”拉开帷幕。
2025-10-16 09:48
到2027年底,在全国范围内建成2800万个充电设施,提供超3亿千瓦的公共充电容量,满足超过8000万辆电动汽车充电需求,实现充电服务能力的翻倍增长。
2025-10-16 09:48
我国自主研发的新一代超高速实时示波器正式发布,其带宽突破90GHz、达到国际先进水平,这标志着全球电子通信产业迎来超高速信号“中国标尺”。
2025-10-16 09:44
在15日举行的中国环境与发展国际合作委员会2025年年会开幕式上,生态环境部部长、国合会中方执行副主席黄润秋表示,要以美丽中国先行区建设为牵引,深化美丽中国建设推进落实机制,分级分类推进美丽中国地方实践。
2025-10-16 10:02
“经过不懈努力,中国以占世界9%的耕地、6%的淡水资源,养育了世界近1/5的人口,这本身就是对世界粮食安全的巨大贡献。钱毅介绍,目前,我国已经建成粮食储运等5个国家级科技创新平台基地,26个部级粮食技术创新中心和重点实验室,以及百余个地方研发创新平台。
2025-10-15 10:49
外交部发言人林剑14日表示,中国机器人正展现出广阔应用前景,逐步从实验室走进工厂生产线和各国百姓家。林剑介绍,国际机器人联合会此前发布的《2025年世界机器人报告》显示,2024年中国在役工业机器人存量突破200万台,居全球首位。
2025-10-15 10:45
约两年前,谷歌旗下深度思维公司宣布,借深度学习技术发现220万种新型晶体材料。科学家期待借助AI,设计出可规模化生产、真正影响日常生活的先进材料,让AI在材料科学领域的价值真正落地。
2025-10-15 10:44
盼望北极熊出现,是中国第15次北冰洋科学考察队队员进入北极圈后的心愿。午后,按照防熊预案部署,考察队决定使用直升机对其驱离,以保证冰面作业人员安全,快速完成冰上作业任务。
2025-10-15 10:40
数据显示,截至去年底,已有超6000台无人配送车投入规模化应用,为100多个细分场景用户交付上亿件订单。随着智能技术与现代物流深度融合,在城乡经济循环中,无人配送车有了更多打开方式。
2025-10-15 10:20
不久前的国庆中秋假期,人形机器人俨然成为多地商场、工厂、医院甚至众多家庭的“明星”。这款名为Galbot的人形机器人来自银河通用,已正式“入职”该智慧工厂,承担自动质检、零部件分拣与搬运等复杂任务。
2025-10-14 09:57
近日,工业和信息化部、国家标准化管理委员会印发了《云计算综合标准化体系建设指南(2025版)》(以下简称《指南》)。
2025-10-14 09:56
最长主跨跨径、最高主塔塔高、最大锚碇基础、最大主缆规模、最多车道数量……狮子洋大桥集齐了双层悬索桥的多个世界第一。
2025-10-14 09:55
加载更多