中科院曾毅：人工智能的治理，绝对不是约束人工智能的发展

人工智能引领新产业革命，是中国发展高层论坛2023年年会上的热议主题之一。

3月25日下午，复日大学泛海国际金融学院执行院长钱军对话了清华大学苏世民书院院长薛澜、中国科学院自动化研究所人工智能伦理与治理中心主任曾毅、IBM大中华区董事长兼总经理陈旭东、启明创投创始主管合伙人邝子平，共同就包括ChatGPT在内的人工领域热点话题进行了讨论。

曾毅认为，人工智能的治理，绝对不是约束人工智能的发展。“没有人工智能的治理，人工智能会野蛮生长。但社会需要的是能够健康和可持续发展的人工智能，这也是全球开展人工智能治理的目的。”他称。

据他介绍，经过四到五年的探索，中国的人工智能发展已经初步建立了自己的体系，分别从数据、算法、平台和应用方面，探索发展和治理的均衡。同时，在伦理治理原则方面，在总体发展规划的指导下，进行软性约束。在标准规范方面，开始进行深入的技术融合，法律是保底约束。

他强调，这是一个多利益相关方的治理体系，不仅仅是科学研发和产业发展的事情，也绝对不只是政府的顶层规制和公众的事，更关键的在于，这些多利益相关方如何去协作起来，进行多方工具的控制和自适应的综合治理。

“中国在人工智能伦理和治理方面，在数据治理、算法治理和平台治理方面，已经做了一些开拓性的工作，但我们也要看到我们的不足。”曾毅举例称，比如人工智能方面的整体法律建设还不是最领先，这是中国应当向全球去学习的。

他指出，目前人工智能技术的发展，并不仅仅是大家讨论较多的ChatGPT为代表的这类看似智能的信息处理工具，其实像日本已经提到未来人工智能可能会成为社会的成员。

“在这样一个社会，我们希望未来的人工智能是什么样子的？如果有一天他真的成为社会的成员，成为道德的主体，我们希望，他不仅能从中国的文化当中去吸取精华，从儒家、道家当中去学习成为一个有美德的人，成为一个君子，我们也希望他还要从英国的文化当中去学习成为一名绅士。”曾毅说，未来的人工智能，我们希望他吸取的是人类的文化和价值观共通的精华。