中国科技欣先说｜当AI开始“自主行动”，安全边界怎么划？

来源：光明网2026-10-02 08:00

　　现在的AI，真是太强大了，除了聊天，生成文字、图片，它还能在收到你的指令后，自主查资料、发消息，甚至修改文件、操作账户。但你想过没有，AI这么能干，万一它“胡来”，谁负责？背后的安全线，又该划在哪里？

　　前几天，在2026年国家网络安全宣传周开幕式上，全国网络安全标准化技术委员会正式发布《人工智能安全治理框架3.0》。

　　这个治理框架已经迭代到3.0了，最早1.0版本，管的是AI“说出来的话”安不安全，生成的内容有没有问题；2.0又增加了“应用衍生安全风险”，管的是AI对社会环境影响等问题。到现在的3.0，直接上了个大台阶，将治理视角进一步拓展到数据、算法、模型、应用、供应链等全过程，治理对象也从内容安全延伸到智能体行为安全。简单来说，以前我们管AI“说什么”，现在我们要管AI“做什么”。

　　如今，AI的风险不再局限在虚拟文字里，它的行为已经可以直接传导到现实世界。所以3.0明确提出，要让风险看得见、管得住。看得见，就是AI干了啥、谁让它干的、中间走了哪些步骤，全程留痕、可以追溯审计；；管得住，就是谁开发的谁负责，出了问题能发现、能定位、能叫停，人类随时可以“踩刹车”。

　　AI治理框架，不是要困住技术创新，而是给高速奔跑的智能体装上刹车与护栏。一句话，AI可以替人干活，但不能替人担责。方向盘和刹车，必须在人手里。

　　你认为AI治理最该先管哪一步？是生成内容、数据隐私，还是智能体的行为边界？评论区聊聊。本期《中国科技欣先说》就到这里，我们下期再见！

中国科技欣先说｜当AI开始“自主行动”，安全边界怎么划？