“人工智能四问”之三：当技术挑战伦理，治
理如何跟上
无论数智技术迭代演化到何种程度，有一条底线必须始终清
晰：技术永远是服务人的工具，绝不能逾越人类伦理底线。习近
平总书记在 2026 世界人工智能大会暨人工智能全球治理高级别
会议开幕式上提出的“当技术挑战伦理，治理如何跟上”，正是
对这一底线的深切叩问。伴随大模型、智能体等人机协同技术快
速演进，人工智能在赋能经济社会发展的同时，算法谄媚、智能
体共谋、价值误导、人机权责模糊等伦理挑战不断显现。技术迭
代的脚步持续加快，治理范式如果停留在旧有模式，就容易造成
发展与治理错位。如何更新治理理念、完善治理体系，已成为数
智时代的必答题。
回答“治理如何跟上”，先要看清数智技术带来的变化。传
统技术风险大多属于工具使用层面的“意图偏离”——研发、部
署、应用过程中出现违背设计初衷的后果，问题多出现在应用环
节，可以通过修正使用方式加以纠偏。而人工智能具备自我学习、
动态演化的特性，不是被动的沉默工具，会展现出欺骗、共谋、
擅动等新形态风险。人形机器人伤人、算法诱导极端情绪、智能
体自主删除信息——这些不再是科幻电影的情节，而是每天都在
上演的现实。伦理风险潜藏在数据训练、模型设计、产品迭代、
场景落地的全链条之中，隐蔽性强、传导链条长。面对一个“会
学习、会适应、会演化”的新型技术主体，传统治理“先发展、
后治理”或“边发展、边修补”的思路，已难以招架。治理如果
还是跟在技术后面收拾残局，就永远无法把风险扼杀在摇篮里。
当然，治理不能靠单纯的伦理批判，也不能一味设置禁令刹
车。同样，也不能幻想一劳永逸隔绝所有风险。单纯道德批判容
易流于空泛，刚性制度管控也可能被技术新变化绕过。伦理原则
与制度规制必须协同发力，既不能因为风险而否定创新价值，也
不能放任技术野蛮生长，必须坚持统筹发展和安全，为人工智能
创新设置合理的安全护栏。
应对数智伦理挑战，关键要树立“预防为先”的治理思维，
推动治理由事后处置向源头防范转变。所谓预防式治理，不是简
单预判某一个既定风险，而是把视野拓展到技术之外，将制度规
则、应用场景、社会文化土壤一并纳入考量，把治理基因植入技
术孕育成长的全过程，实现从被动堵漏洞向培育良好创新生态的
范式转换。
预防式治理要真正落地，首先必须破除一个根深蒂固的观念：
技术是中立的，问题只在应用。这种观念在数智时代已经不再成
立。算法的偏见、模型的歧视、智能体的欺骗性行为，不是“用
坏了”才出现的，而可能是从训练数据、模型设计时就已被埋下。
治理的视线必须从“使用环节”向前延伸到“设计环节”，在算
法还在实验室打磨的时候就引入伦理评估。这就要落实分级分类
治理，针对不同场景开展情境推演、风险模拟——同样一套大模
型，用于高考志愿填报、学生论文写作还是重大科研攻关、政
府决策，风险等级完
