算网筑盾：读懂算力网络时代的安全密码

　　一、筑牢算力网络安全底座，护航AI时代数字社会发展

　　当AI大模型走进人们的生活日常，算力网络如同数字时代的“电力系统”，为千行百业输送源源不断的计算能力。算力网络以网络为纽带，把分散在各地的数据中心、智算集群连接起来，实现算力资源按需调度、就近取用，支撑数字政府、智慧城市、产业数字化转型快速发展。算力网络在释放数字生产力的同时，也带来全新的安全挑战。算力网络安全，不再只是传统防火墙抵御网络攻击，而是覆盖基础设施、数据流转、AI内容输出、业务运营的全域可信防护体系，是数字社会平稳运行的重要基石。

　　二、新旧安全差异凸显 算网多维度风险亟待防范

　　很多人会把算力网络安全简单等同于传统网络安全，实际上二者存在明显区别。传统网络安全重点抵御黑客入侵、病毒攻击，保护网络边界不被突破；算力网络安全的防护对象更加复杂，既要保障硬件、网络、服务器等底层基础设施稳定运行，又要守护跨节点流转的数据，还要应对大模型带来的内容风险、提示词注入、模型幻觉等新型威胁。一旦算力网络安全防线出现漏洞，不仅会造成数据泄露，还会影响业务服务质量，甚至干扰公共治理工作开展。

　　从大模型业务实践案例可以直观看到算力网络面临的现实风险。某企业上线大模型服务之后，部署的内容安全围栏承担风险拦截、有害信息过滤的职责，落实大模型安全规范要求，保障AI交互内容合规。但初期安全围栏采用全局统一、偏保守的校验策略，过度依赖关键词字面匹配识别风险，出现突出的“安全与体验失衡”问题：大量正常投诉工单、业务催办等合规诉求，因为文本中出现部分敏感关键词被系统误拦截，正常业务咨询、工单处理工作受到明显干扰。安全围栏为守住风险零漏判底线，却造成较高误报率，这正是算力网络应用层典型安全矛盾——如果防护规则过于宽松，违规有害内容会穿透防线；规则一味收紧，又会“误伤”正常业务，降低系统可用性。

　　除了AI内容误拦截这类新型应用风险，算力网络还面临多层级安全隐患。在基础设施层面，算力网络连接众多异构计算节点，各个节点安全水平参差不齐，部分低安全等级节点如果被调度处理高敏感业务任务，就会形成安全短板，出现“木桶效应”，单个节点漏洞可能扩散影响整个算网体系。在数据流转层面，业务数据在多个算力节点传输、计算，任一环节管控不到位，就会产生隐私泄露、数据篡改风险。在业务流程层面，如果测评环节缺失，网络漏洞、数据安全隐患、内容安全风险没有被排查整改，就直接上线运行，会埋下长期安全隐患。同时还存在提示词注入、对抗越狱攻击等AI特有风险，攻击者通过特殊话术诱导大模型输出违规内容，绕过安全管控机制，考验算力网络的动态防御能力。

　　三、构建分层治理体系 统筹安全与业务可用

　　算力网络安全不是简单堆砌安全设备，而是需要建立分层防御的治理思维，实现“守住安全底线，兼顾业务可用”，业务领域的实践探索，为算力网络安全防护提供可借鉴的思路。

　　首先是分类分级，拒绝“一刀切”的安全策略。不同业务场景风险等级天差地别，对外面向公众开放的智能咨询服务属于高风险场景，需要严格的校验标准；内部办公、资料查阅属于中低风险场景，可适配相对宽松的管控策略。摒弃全局统一阈值，按业务风险等级、风险类型设置差异化管控参数，区分用户输入和模型输出两套检测逻辑。输入端重点拦截恶意攻击、越狱注入，输出端严控对外发布内容合规性，既保证高风险场景“寸步不让”，又避免内部正常业务被过度拦截。

　　其次，构建多级级联检测架构，从“简单关键词匹配”升级到“语义智能研判”。传统单级关键词匹配很容易出现字面误判，将合规文本识别为风险内容。可以搭建“轻规则前置‑精检模型复核‑人工兜底”三级流水线防护：第一级使用轻量化规则做快速初筛，疑似风险只标记不直接拦截；第二级调用语义安全模型开展深度理解，区分字面命中和真实风险，过滤大量误报；第三级针对边界灰色样本，采用“告警留存日志、业务放行”模式，区分直接拦截和告警放行两种处置方式，平衡安全和业务体验。同时搭建白特征库，收录专有名词、工单格式、法条引用，对客观摘抄、正常诉求文本做风险降级，解决工单批量误拦截这类现实痛点。

　　再者，把安全前置到应用上线全流程，筑牢事前测评、事中监测、事后迭代的闭环防线。大模型应用上线前需要开展覆盖网络安全、数据安全、内容安全三大维度的安全测评，通过摸底测试、专项核验、复测、终极清零多轮迭代，把高危、中危漏洞在上线前完成整改，从源头降低风险发生概率。算力网络环境下，还需要建立常态化运营迭代机制，将误判、漏判样本持续回流至数据集，不断优化规则与模型；建立量化指标观测，不只看拦截数量，同时监控漏报率、误报率、业务通过率，精准定位防护短板，持续迭代优化安全策略。所有策略降级、白名单放行操作全部留存审计日志，做到行为可追溯，杜绝安全机制被滥用的隐患。

　　四、总结与展望

　　算力网络安全不能简单依靠安全设备堆叠，核心要树立系统的治理思维，综合运用分层防御、分类分级管控、语义智能研判与闭环运营多重手段。面对大模型带来的新型安全威胁，要摒弃 “一刀切” 防护策略，按照业务风险等级实施差异化管控，区分输入输出检测逻辑；升级传统关键词筛查模式，搭建多级级联检测架构，通过规则初筛、模型精检、人工兜底，平衡风险防控与业务体验。同时落实事前测评、事中监测、事后迭代的全流程闭环，依托样本回流优化防护模型，完善审计追溯机制，破解误拦截、节点短板、数据流转泄露等现实难题。筑牢算网安全屏障，既是守护数据安全、保障产业数字化平稳发展，更是维护数字空间秩序、捍卫国家数字主权的重要支撑。

　　作者：黄昭文 中国移动广东公司科技创新部网络安全首席技术专家

　　　　　张豪杰 中国移动广东公司科技创新部算力网络首席技术专家

　　审核：朱建 中国移动广东公司科技创新部副总经理

　　策划：阎冬 陈昊

　　出品：科普中国×中国移动科学技术协会