“人工智能四问”之二：当算法参与决策，安
全如何保障
7 月，习近平总书记在 2026 世界人工智能大会暨人工智能
全球治理高级别会议开幕式上提出人工智能四大时代之问。其中，
“当算法参与决策，安全如何保障”，直击人工智能深度介入现
实决策链条后的安全痛点。今天的算法早已不只是简单的信息处
理工具，已经深度嵌入政务办理、金融风控、临床医疗、司法辅
助、自动驾驶、公共资源配置等诸多领域。运用得当，算法能够
显著提升治理效率、优化资源配置；一旦安全防线失守，则可能
造成公平失衡、个体权益受损，甚至诱发系统性风险。如何充分
释放算法带来的技术红利，同时有效防范各类风险隐患，做到趋
利避害、安全可控，是我们必须回答好的现实课题。
技术创新从来都是一把双刃剑。算法参与决策所带来的安全
风险，是多重因素相互叠加形成的。首先来自算法本身固有的技
术局限。算法依靠数据和模型开展运算，天然带有“黑箱属性”，
决策推理过程难以直观溯源、清晰解释，一旦输出结果出现偏差，
定位问题根源往往十分困难。训练数据中潜藏的偏见与瑕疵，还
会被模型继承并放大，最终转化为现实场景中的决策不公。现实
世界复杂多变，训练数据只是有限采样，模型在训练覆盖的场景
内表现稳定，可面对长尾场景、突发状况、数据分布漂移时，就
容易出现判断失准。其次是人的客观认知局限。风险识别，建
立在能力大体对等的基础之上。当算法在部分专业判断上的表现
超过人类，使用者往往很难对算法输出开展实质性检验，看不懂
就难以质疑，核验不了就无从把关，这不是主观态度问题，而是
能力差距带来的客观困境。再次是安全技术供给相对滞后。人工
智能模型能力快速扩张，但安全研究整体处于追赶位置，坐等安
全技术自然成熟，无异于放任风险裸露。最后是规则与责任边界
模糊。算法介入决策之后，哪些判断属于人的裁量、哪些来自模
型运算，边界容易混淆；发生权益损害时责任主体难以厘清，追
责机制缺位，就会出现安全悬空。这正是算法决策安全风险的核
心症结。由此我们必须明确，算法只能输出参考结论，绝不能替
代人的价值判断和最终裁量。
价值取向是算法安全的根本标尺。首要就是秉持以人为本理
念、智能向善的宗旨，牢牢守住人类决策主体地位和终审权限。
算法研发、训练、落地应用全过程，都应当把人的权益、社会公
平、公共安全放在优先位置，摒弃“技术至上”的片面思维。发
展和安全不是对立关系，安全是发展的前提，发展是安全的保障。
要坚持包容审慎、分类分级监管思路：对于普通应用场景，鼓励
技术创新，简化准入要求；对于涉及人身权益、重大财产、公共
利益的高风险场景，必须抬高准入门槛，把“损害后果能否通过
事后救济恢复原状”作为重要标尺，守住不发生不可逆损害的安
全底线。这条底线不看事件发生概
