点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座
首页> 光明科普> 图文 > 正文

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

来源:光明网-科普中国2024-12-09 15:59

  编者按:习近平总书记指出,“科学普及是实现创新发展的重要基础性工作。”为助力高水平科技自立自强,中国科协科普部联合光明网推出“院士高端科普”栏目,邀请各领域院士就我国当下热点科技问题给予权威解答,服务引导更多科技工作者提升科研科普能力,促进全民科学素质提升,为科技强国建设贡献科普力量。#千万IP创科普

  党的二十大报告对加快建设网络强国作出了重要战略部署,网络强国建设已成为社会主义现代化国家建设的重要内容。随着网络空间崛起为继陆、海、空、天之后的第五大主权领域,我国面临着日益严峻的网络安全挑战。

  当前,人工智能的发展如火如荼,在推进网络强国建设的过程中,确保人工智能技术的安全可控,防范其潜在的网络安全风险,成为亟待解决的关键问题。

  人工智能在赋能人类社会、加快发展新质生产力、创建虚实融合新型网络空间的同时,正逐渐衍生出可能危及国家安全和人类安全的重大风险。去年,马斯克在内的一众全球范围内AI领域重要人士联合公告“应将缓解人工智能导致的灭绝风险,与其他社会规模风险(如大流行病和核战争)等同重视,作为全球优先事项”。

  大模型参数规模庞大,动辄上千亿甚至万亿,研发投入高达数百亿人民币,它们的兴起,开创了智能化应用新局面。但大模型自身无安全可信和伦理道德的特性,给人类社会带来了不利影响。

  一方面,大模型继承了深度学习的“黑盒子”特性,复杂的参数与神经网络结构使得决策和推理过程难以透明,从而可能引发虚假、偏见、侵权及伦理问题。另一方面,海量数据的处理也伴随着数据安全风险,隐私泄露、侵权以及恶意利用等问题层出不穷,其中“幻觉”、偏见和违反法律法规、风俗习惯等问题尤为棘手。

  面对这些挑战,我们急需一种能够保障信息系统可预期性的技术——可信计算。可信计算,顾名思义,就是在计算的同时进行安全防护,确保计算结果与预期一致,全程可测可控,不受外界干扰。这一技术将人类社会中行之有效的管理策略应用于计算机信息系统及网络环境中,通过建立信任根和信任链,层层递进,将信任关系扩展到系统的每一个角落,从而确保整个系统的可信度。

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

  在保证计算可信的同时,技术自主也是必要条件。中央“市场准入十条”(《关于完善市场准入制度的意见》)中的“自主可信计算”不是泛指可信计算技术,而是指源自中国、完全自主的可信计算技术——可信3.0,故文件中特地强调“自主”二字。

  我认为,网络安全实质是计算科学问题,而自主可信计算是保障信息系统可预期性的关键技术。通过构建主动免疫的可信计算体系,可以降低网络空间的脆弱性,提高应对未知恶意攻击的能力,从而有效保障国家网络空间的安全。

  中国在可信计算的发展上做出的战略部署可谓高瞻远瞩。自1992年立项研制免疫的综合安全防护系统以来,我们经过长期军民融合攻关应用,形成了自主创新的安全可信体系,开启了可信计算3.0时代。如今,可信计算已广泛应用于国家重要信息系统,如增值税防伪、彩票防伪、二代居民身份证安全系统等,为国家安全和社会稳定提供了有力保障。

  以国家电网电力调度系统的安全防护建设为例,发改委14号令要求,采用可信计算架构实现等级保护四级。如今,我们的电力可信计算密码平台已在三十四个省级以上调度控制中心得到广泛应用,覆盖上千套地级以上电网调度控制系统,涉及十几万个节点、约四万座变电站和一万座发电厂。这一举措有效抵御了各种网络恶意攻击,确保了电力调度的安全运行。相比之下,美国热推的“零信任架构”仅相当于可信计算3.0的一个访问控制功能子集,存在诸多问题和挑战,如架构漏洞多、缺乏科学原理支撑、网络无边界不符合主权原则等。

  面向未来,我的建议是,各级政府按照国家网络安全法律、战略制度要求,大力发展自主可信计算产业体系,为加快推进建设网络强国、数字中国做出重大贡献。

  (作者:沈昌祥,中国工程院院士、中央网信办专家咨询委员会顾问,光明网记者李欣哲整理)

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

【锚定2035·院士谈科学报国】自主可信计算筑牢人工智能安全底座

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 景德镇陶阳里:城市更新激发文旅新活力

  • 全运会香港赛区官方特许商品开售

独家策划

推荐阅读
新时代新征程,以中国式现代化全面推进强国建设、民族复兴伟业,实现新型工业化是关键任务。
2025-07-15 04:10
现阶段,人工智能赋能新型工业化已取得明显成效,但仍存在人工智能关键硬件与开源软件储备不足、人工智能在重点行业领域应用率偏低、人工智能领域人才短缺且结构不合理、缺乏适应人工智能发展的标准体系和法律法规等问题。
2025-07-15 04:10
2025年可谓人形机器人的“破圈”之年。从蛇年春晚舞台的机器人扭秧歌,到北京亦庄的机器人马拉松,再到浙江杭州的机器人格斗赛……人形机器人正从“实验室”迈向各类“应用场”。
2025-07-15 02:55
科考船在狂风巨浪中剧烈摇摆,寻找渺小的目标如同大海捞针。回收沉睡海底半年的海底地震仪,是这次出海科研任务中最艰难的一环。“快看!在那儿!”随着一声疾呼划破沉寂,
2025-07-15 02:55
老北京人都知道,居家过日子,买剪刀要买王麻子的,吃腐乳要吃王致和的,穿布鞋要买内联升的…… 这是为啥?因为人家的这些物件,得劲儿呗!为啥得劲儿?匠心所致也!
2025-07-15 02:55
从27岁到60岁,33载深蓝搏击,马远良实现了中国航空声呐从无到有、从追赶到并跑乃至局部领先的壮举。
2025-07-14 08:49
何熙昱锦也表示,脑机接口技术涉及芯片、传感器、算法、应用等多个环节,需要上下游企业形成更紧密的合作关系。
2025-07-14 08:45
在论坛签约仪式上,中国、哈萨克斯坦、巴基斯坦、埃及等国家共签署12个数字经济合作项目,涉及跨境电商、智慧城市等领域。
2025-07-14 08:45
天然铀是重要的战略资源和能源矿产,铀资源勘查采冶位于核燃料循环体系的前端,是核工业发展的重要物质基础。
2025-07-14 08:42
这条从技术突破、场景深耕到生态协同的融合路径,正强劲驱动中国人工智能产业迈向高质量跃升。
2025-07-14 08:41
据国家统计局最新发布的数据,2025年全国夏粮总产量达到14973.8万吨,单位面积产量与去年基本持平,总体实现了夏粮生产的平稳运行。这一成绩的取得,
2025-07-14 04:15
从蓝莓大棚里的生长曲线,到肉牛项圈里的健康密码,广西的特色农业正被人工智能重新定义。
2025-07-14 04:25
7月13日,随着和田—民丰—且末—若羌750千伏输变电工程最后一相导线跨越和若铁路、国道315,稳稳抵达188号铁塔,历经15年建设的新疆环塔里木盆地750千伏输变电工程(以下简称“环塔工程”)全线贯通,进入投运倒计时。
2025-07-14 04:25
防晒,究竟该如何掌握分寸,才能在抵御伤害与拥抱健康之间找到平衡点?
2025-07-11 09:58
生命只有一次,心脏健康不容忽视。唯有提高对心梗症状的警觉性,掌握正确的急救方法,才能为生命筑起一道坚实的“心”防线。
2025-07-11 09:58
晒后背是一种传统的养生方法,符合中医“冬病夏治”的理论,其核心在于借助盛夏充沛的自然阳气,通过阳光照射背部,来提升人体自身阳气。
2025-07-11 09:58
截至7月10日,我国“北气南下”能源大通道累计输气量突破1000亿立方米,安全平稳运行超2000天,标志着这条纵贯南北的能源大动脉在保障国家能源安全、推动绿色转型方面取得重大进展。
2025-07-11 04:55
从自然资源部新一轮找矿突破战略行动办公室了解到,今年上半年,全国新发现矿产地38处,同比增长31%;新发现矿产地中,大中型矿产地25处。
2025-07-11 04:10
时下,智能手机已成为人们获取信息、社交娱乐的重要工具。多学科专家指出,当我们刷手机出现注意力极度涣散、缺乏独立思考能力、情绪化反应严重、深度学习能力下降、空虚感增加等症状时,就表明我们的大脑正在被“腐蚀”。所谓的“脑腐”,即因长期暴露于碎片化信息而引发的认知衰退与脑功能损伤。
2025-07-11 04:10
由于肉眼很难发现水污染的情况,洪水之后饮水需要特别注意,避免直接饮用自来水、山泉水、河水、湖水等。肖丹提醒,如果不适症状较为严重,出现持续高热、剧烈呕吐、严重腹泻、脱水、意识障碍等,或皮肤干燥、眼窝凹陷、少尿等情况,应及时就医。
2025-07-10 09:34
加载更多