依法规范科技创新，促进通用人工智能健康发展丨法兵经言

日前，中共中央政治局召开会议分析研究2024年经济工作，指出“要以科技创新引领现代化产业体系建设，提升产业链供应链韧性和安全水平”。在当今数字经济的高速发展下，通用人工智能发展要以安全为基座，以创新为动能，以产业为抓手，以法治为保障，以新安全格局保障新发展格局。所以在加强人工智能领域发展时也要警惕其带来的风险。

数据安全风险

对于人工智能的数据安全方面要高度重视，保障安全才能保障创新。在通用人工智能的训练过程中需要海量的数据，当用户在使用过程中授权其使用相关资料，人工智能便会爬取其大量数据信息，其中包含了大量敏感信息，如果没有建立数据安全保障措施，容易造成信息泄露风险，导致数据的滥用，违反相关法律法规和合规要求，同时降低人们对于人工智能的可信度，不利于其行业未来的健康发展。

知识产权风险

在推动高质量发展的背景下，知识产权作为国家发展战略国际竞争核心要素的作用日益凸显。使用通用人工智能生成作品时可能会造成与他人作品极为相似的情况，原因在于通用人工智能需要大量数据的投入，而这些数据的获取来源中会存在大量受知识产权保护的数据。如果通用人工智能基于他人作品进行生成，便会产生与他人作品极为相似的产品，从而导致知识产权的风险。保护知识产权就是保护创新，因此对通用人工智能的知识产权风险要予以高度重视，既要保护人工智能的创新态势，也要从法律层面保护受知识产权保护的作品。

权责划分风险

随着技术的发展和应用，出现了诸多侵权事件。目前来看，人工智能本身还难以成为新的侵权责任主体。所以在侵权行为发生后，应该考虑侵权责任的承担者，是由人工智能的所有者负责，还是由人工智能的使用者负责？当涉及人工智能的具体行为时，控制程序的责任变得模糊，通用人工智能的决策过程缺乏透明性，人们对通用人工智能的决策过程不能完全控制，因此，在确认责任主体、责任认定与承担时存在一定的问题。

社会伦理风险

通用人工智能是一把双刃剑，推动经济进步的同时也会带来科技伦理风险。数据、算法和算力是驱动人工智能发展的三驾马车，通用人工智能的迅猛发展在于大量的数据供给分析，当数据获取渠道出现局限性或者数据来源不全面时，通用人工智能可能因为数据原因导致包含偏见和歧视性内容，这会影响到其公平性和客观性，引发社会伦理争议。出现这类风险的原因也在于通用人工智能的决策过程缺乏透明度，使得人们难以理解模型的决策模式和过程，出现算法黑箱问题，从而导致人们认为通用人工智能不公平、不可控，产生信任危机。这种信任危机也会极大影响人工智能领域的发展。

为了促进通用人工智能健康发展的同时规范其应用，国家网信办联合国家发改委、教育部、科技部、工业和信息化部、公安部、广电总局七部门于7月13日联合公布《通用人工智能服务管理暂行办法》（下称《暂行办法》），其中提出“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励通用人工智能创新发展，对通用人工智能服务实行包容审慎和分类分级监管”。《暂行办法》出台之迅速表明我国对于通用人工智能技术发展的积极态度和重视程度。

《暂行办法》的出台对我国通用人工智能的发展意义重大，对推行通用人工智能健康发展有着积极的影响。

首先，《暂行办法》完善了人工智能的事前审查制度，规定“提供具有舆论属性或者社会动员能力的通用人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。事前审查制度可以预防风险，及时发现通用人工智能产品所存在的问题，增加社会公众对其可信性。

其次，《暂行办法》规定，“通用人工智能服务提供者（下称“提供者”）应当依法开展预训练、优化训练等数据处理活动，遵守以下规定：（一）使用具有合法来源的数据和基础模型；（二）涉及知识产权的，不得侵害他人依法享有的知识产权”，再次明确了保护知识产权就是保护创新。

再次，为了明确通用人工智能的权责划分问题，《暂行办法》规定了责任承担制度的明晰与细化，“提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务”。即没有完成规定义务、采取必要措施防范风险的提供者才应当承担责任。同时，提供者难以知晓或控制多领域应用的用途，对于主观上不存在过错的提供者，应适用过错责任原则，不承担侵权责任。这初步确立了人工智能领域责任承担的基本规则，为后续规则的制定与实施提供了依据。

最后，《暂行办法》提到“鼓励采用安全可信的芯片、软件、工具、算力和数据资源”，其中安全可信的数据资源便是针对通用人工智能的技术特点。由于训练数据的质量会直接影响通用人工智能的生成内容质量，有违伦理等要素的数据就可被认为是具有安全风险的数据。《暂行办法》的责任预防性价值取向之一正是确保安全，并非完全承袭既有的网络技术先发展再治理的理念，而是希望明确新兴领域发展的底线与红线，避免技术产生的不可控风险深度嵌入社会结构，进而出现难以应对的局面。

伴随着第四次科技革命的进程，通用人工智能为数字经济带来了更广泛的发展机遇。建立可控、可靠、安全的通用人工智能对于数字经济发展具有重要意义，以新安全格局保障新发展格局，通过科技创新引领产业变革，以通用人工智能为基点，将科技成果转化落实到各个产业，引领产业进行数字化变革，适应数字经济新局面，构建数字经济发展新模式。

（作者系南开大学竞争法研究中心主任、法学院副院长、教授，南开大学数字经济交叉科学中心研究员）