点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

编者按:
进入人工智能时代,人们常常惊艳于大模型的强大生成能力。可现实中,AI幻觉、芯片失效、系统宕机等可靠性风险也随之提升。会“说谎”的大模型、会出错的AI芯片、物理场景下发生意外的智能载体……这些都提醒我们,技术不仅要追求聪明高效,更要做到可信可控,筑牢“智能时代的信任基石”。AI可靠性已经成为人工智能产业落地应用必须研究的关键课题。
为此,中国科协科普部、中国指挥与控制学会、光明网联合策划推出“AI可靠性——智能时代的信任基石”系列科普视频,邀请北京航空航天大学可靠性与系统工程学院教授、中国指挥与控制学会可靠性系统科学与工程专业委员会总干事杨顺昆担任主讲专家,立足科研与产业一线,通过实际案例,揭开智能系统可靠性背后的隐患、保障手段与时代价值。
你用语音助手订餐、让AI帮你写邮件、坐自动驾驶汽车去上班,支撑这一切的,都是藏在设备里的AI芯片。那如果这块芯片突然“生病”了,会怎么样?
先看几组数字。2025年,全球AI训练和推理芯片市场规模突破了1450亿美元,同比增长41.2%。国产AI芯片年销售额也站上了160亿美元。数字很漂亮,但一个尖锐的问题也随之而来:芯片越强、集群越大、部署越密,出故障的概率和代价也在同步飙升。
打个比方:过去的芯片像一辆家用轿车,偶尔抛锚,靠边停就行。现在,AI芯片组成集群,像一列由几万节车厢组成的高速列车,任何一节出问题,整列车都可能脱轨。
2025年,英伟达最新一代Blackwell芯片在部署中接连出问题。首批搭载的GB200机架系统,72颗GPU通过长达两英里的线缆连在一起,结果出现了严重的过热问题,微软、亚马逊、谷歌、Meta这些大客户,都不得不削减部分订单。Oracle因为这个问题,承受了大约1亿美元的损失。2025年英伟达的保修支出飙升到8.94亿美元,比前一年增长了大约10倍。
这还不是最可怕的。比“芯片坏了”更可怕的,是芯片“悄悄算错了”。行业里管这个叫“静默数据损坏”,就是芯片算错了,但系统毫无察觉。而这样一个错误,可能扭曲跨节点的模型权重,悄悄毁掉耗时数周、成本超一亿美元的训练任务。
防的不只是“死机”,更是“说谎”。这句话用在芯片上,和AI本身的问题一模一样。
那怎么让AI芯片更可靠呢?学界和工业界大致形成了三大“流派”。
第一派,“冗余派”。最经典的思路,就像飞机有双发动机,多备一份,有备无患。研究显示,双模块冗余设计能把故障执行减少93%,面积开销只增加不到10%。
第二派,“容错派”。AI模型本身就有一定容错性,就像人眼看模糊照片也能认出来。核心思想就是,不是所有错误都需要纠正,有些错误AI自己能扛过去。
第三派,“预测派”。给芯片做“体检+压力测试”,在设计阶段就预判它在各种极端情况下会不会出错。
好的可靠性设计,不是让芯片“永不犯错”,而是让它犯错的时候,“知道错在哪、能自己扛住”。
总结一下,算力决定AI能跑多快,可靠性决定AI能跑多远。AI芯片的可靠性,不是一个冷冰冰的技术指标,而是智能社会安全运转的基石。
监 制
光明网科普事业部
科学审核
杨顺昆
策 划
肖春芳 宋雅娟
编 导
肖春芳
统 筹
杜 颖
文字编辑
李 瑾(实习)
联合出品
中国科协科普部
中国指挥与控制学会
光明网
