2026网安周｜明确人机边界，别做“甩手掌柜”

　　【编者按】当前，人工智能技术加速向经济社会各领域渗透，与之相伴的安全风险与伦理挑战也日益凸显。2026年国家网络安全宣传周期间，光明网联合科普中国推出AI科技伦理系列科普视频，引导公众理性认知技术逻辑，秉持算法向善理念，共建网络安全生态。

　　AI能干的事情，正在变得越来越多。撰写报告、语言翻译、处理分析数据，甚至写诗作画，AI都可以高效完成。随之而来的现实疑问也摆在所有人面前：到底还有哪些事情，只能由人完成，不能够全盘托付给AI？

　　重复劳作、计算推演、规则清晰明确的任务，适合交给AI处理。这类工作AI处理速度快、准确度高，把这类事务交付机器，是技术带给人类的解放。

　　但有三类核心事项，是绝对不能交出去的，这也是人与机器分工的底线。

　　第一是最终判断。AI能够梳理信息、分析利弊，给出多种方案建议。但是接不采纳方案、最终如何行动，决定权必须掌握在人的手中。AI输出的只是参考，做出抉择的人，要为这个选择承担全部责任。

　　第二是价值选择。AI可以罗列不同选项，拆解每一种选择的利弊得失。可什么样的目标值得追寻，什么事情值得去做，属于价值层面的取舍，算法无法替人类作答。算法擅长解决“怎么把事做好”，但“该不该做、为什么要做”，只能由人来思考定夺。

　　第三是承担后果，也是最根本的底线。AI不会产生懊悔情绪，给出错误建议之后，也不会生出责任感。但人类会。很多事情之所以被我们郑重对待，正是因为我们清楚，所有后果终究要自己扛下。承担责任，是人和机器最深刻的分野。

　　有一个简单实用的标尺，可以用来衡量一件事能不能交给AI：倘若AI出错，谁来为此负责？

　　如果AI发生失误，人类可以兜底、补救并且承担责任，那么交由AI辅助处理就无可厚非。可一旦事情出错，找不到具体的人站出来承担“这是我的决定，由我负责”，那这件事就不适合交给AI。

　　就像医疗诊断，AI可以用来辅助分析病情，但给出诊断结论、对患者生命健康负责的必须是医生；司法工作中，AI可以整理材料提供参考，但决定他人命运、背负司法责任的，只能是法官。在这类关键场景，人类必须始终在场。

　　无论技术如何迭代进步，有些核心位置不能拱手让出。一旦交出的不仅仅是一项工作任务，更是属于人的判断力、价值取向与责任意识。

　　这并不是人和人工智能相互对立，而是人类为技术划定合理边界，也是身处智能时代，我们需要守住的立身之本。

出　品

科普中国前沿科技科普解读

监　制

光明网科普事业部

科学性审核

段伟文 崔原豪

策　划

宋雅娟

编　导

宋雅娟 林佳欣

文 案

罗苡柔（实习）