AI应用与安全治理如何平衡推进？博鳌嘉宾有话说

原标题：AI应用与安全治理如何平衡推进？博鳌嘉宾有话说

“AI：如何做到应用与治理的平衡推进？”3月26日，博鳌亚洲论坛2025年年会分论坛上，参会嘉宾围绕近年来人工智能领域的发展话题展开探讨。

博鳌亚洲论坛2025年年会—在AI应用中塑造核心竞争力会议。记者 马一鸣 摄

中国工程院院士、清华大学讲席教授、清华大学智能产业研究院（AIR）院长张亚勤回忆，一年前他在博鳌参会时没预料到人工智能领域会发生如此大的变化。其中DeepSeek是两年来人工智能领域较大的、规模性的创新，也是中国对全球的重要贡献。

他说，这一年人工智能行业正在从生成式AI走向智能体，从预训练走向推理，从信息智能走向无人驾驶、机器人等为代表的物理智能，走向人脑接口等为代表的生物智能。

智能体的广泛运用正在让AI的风险加剧。智能体具有自我规划、学习、试点并达到自己目的的能力，是强大的技术工具。但因为其运行过程中的运行机理尚未完全理清。因此需要对智能体设置诸如不能自我复制一类的红线。

中国科学院研究员，人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能高层顾问机构专家曾毅曾倡议：在开展相关研究时也要同步建立好安全护栏。但是一直以来，行业内不少观点认为安全问题将制约人工智能的发展，如何做到应用与治理的平衡推进尤为重要。

“我要告诉大家人工智能的发展应用和安全之间的关系不是相互掣肘的关系。”曾毅说，他们最新的研究表明，提升人工智能大模型的安全能力对其求解能力的影响几乎可以忽略不计，因此两者是可以同步发展的。

中国社科院大学教授、国务院原副秘书长江小涓认为，随着技术发展，人工智能的安全问题应该会得到比较好的解决，但从过去几年的情况来看，AI治理方面的进展有限，而如何落地实践是其最大的挑战。

江小涓认为，要把问题分成可以落地的方向来推进。一项技术能否可以被接受只有两个标准：第一是能否提高生产力，使其创造更多财富，第二是发展的成果能否被比较公平地分享。从这两个标准来讲，AI的发展满足第一条——提高了劳动生产率。但AI能否比较好地为社会共享，也就是说要考虑就业是不是充分、分配是不是公平等问题。如果这两个问题不能解决，就需要考虑替代政策，而不是一再重复以往不能落地的那些原则。“每个时代有每个时代的价值观，当技术发展使这些价值观到了必须改变的时候，我们就要改变它。”江小涓说。

江小涓还提到，DeepSeek的最大贡献在于打破了垄断，将AI领域由以前的寡头游戏变成了可以普遍竞争的产业。而在充分竞争的市场环境中，许多问题可以通过自发秩序解决。

vivo首席安全官鲁京辉从产业微观视角来看应用与安全治理，他认为，过去几年人工智能蓬勃发展的核心是基于大模型的突出表现，而人工智能已经从安全的概念变成了安全性的概念，虽然业界在安全概念上是有共识的，但是在安全性的角度还没有，无论是技术维度还是治理维度等都受到较为复杂的因素影响。

他介绍，目前全球有三种人工智能的治理模式，欧洲偏重于安全的治理模式，美国偏重于发展的治理模式，中国是平衡发展和安全的治理模式。到底哪一种是标准答案，还需要实践来证明。

“安全性的治理包含了对社会的影响、伦理性的影响、系统的影响，都有很大挑战，我们需要研究者、开发者、政策制定者共同参与来形成标准，形成共识。”鲁京辉说。（姚皓）