汉盛法评｜《生成式人工智能服务管理暂行办法》律师解读

2023-07-14 徐君霞

出台背景

当下各行各业都在努力赶上生成式人工智能的这波风口，因此百度、华为、微软等都陆续发布自己的人工智能产品或宣布将搭载于相对成熟的生成式人工智能产品。随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题[1]。一方面党和国家重视生成式人工智能发展，希望为生成式人工智能营造发展环境，另一方面又要注意防范风险，促进生成式人工智能健康发展。于是，2023年4月11日国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，向社会公众公开征求意见，在征求意见的基础上就有了《生成式人工智能服务管理暂行办法》。

《生成式人工智能服务管理暂行办法》已经2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意，2023年7月10日公布，自2023年8月15日起施行。

内容总览

《生成式人工智能服务管理暂行办法》（以下简称“暂行办法”）共有24条，共分为五章，分别是总则、技术发展与治理、服务规范、监督检查和法律责任和附则。

总则部分主要有四块内容：第一部分介绍了暂行办法的主要法律依据：《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，暂行办法进一步规范数据处理等活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。第二块部分介绍了暂行办法的适用范围：利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。第三部分是暂行办法坚持的主要原则：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。第四部分针对性的列举了生成式人工智能应当遵守的规定，例如：不得有法律、行政法规禁止的内容；从算法设计到提供服务采取措施防止产生民族、性别等各种歧视；尊重知识产权、商业道德等，尊重他人合法权益，提高服务的质量等。

第二章技术发展与治理分为两部分，第一部分是落实暂行办法坚持的原则，列明了国家鼓励生成式人工智能发展的具体举措：一是明确鼓励生成式人工智能技术在各行业、各领域的创新应用，构建应用生态体系。二是支持行业组织、企业、教育和科研机构等在生成式人工智能各方面开展协作。三是鼓励生成式人工智能基础技术的自主创新，国际交流与合作，参与相关国际规则制定。四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。第二部分是对生成式人工智能服务提供者（以下称提供者）的治理要求：使用具有合法来源的数据和基础模型、不得侵害他人的知识产权、遵守相关法律规定、建立数据标注制度和规则等。

第三章服务规范，列举了生成式人工智能服务提供者应当遵守的规范，包括：服务提供者应承担网络信息内容生产者和个人信息处理者责任，要与使用者签订服务协议。要求服务提供者采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当对图片、视频等生成内容进行标识。规定提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取有关处置措施，保存有关记录，并向有关主管部门报告。

第四章监督检查和法律责任，指明了生成式人工智能的监管部门（包括网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等）、监管部门履职时服务提供者的配合义务和监管部门工作人员的保密义务以及提供者违反规定的处罚依据和措施。另外，还对提供具有舆论属性或者社会动员能力的生成式人工智能服务提出了评估和备案要求，并要求境外向境内提供生成式人工智能服务也应当遵守本暂行办法及相关法律法规。

第五章附则主要解释了生成式人工智能技术、生成式人工智能服务提供者、生成式人工智能服务使用者的含义，并指出外商也可以投资生成式人工智能服务，不过应当符合外商投资相关法律、行政法规的规定。

律师解读

暂行办法的内容不多，但是有下列几点是需要我们去重视的：

首先，暂行办法让我们看到了国家对生成式人工智能的态度：国家坚持发展和安全并重、促进创新和依法治理相结合。一方面国家将采取有效措施鼓励生成式人工智能创新发展，因此规定了多种发展举措，后续应该会根据发展情况陆续出台更详细的法律法规政策支持。另一方面对生成式人工智能服务实行包容审慎和分类分级监管，国家对于新兴事物的谨慎态度，发展的同时重视风险，依法治理生成式人工智能行业。

其次，暂行办法让生成式人工智能服务参与者更清楚目前需要遵守的法律规定：《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》、《互联网信息服务深度合成管理规定》、《互联网信息服务算法推荐管理规定》等，这些规定是该暂行办法的法律法规依据，也是目前指导生成式人工智能服务的现有法律法规。

再次，重视暂行办法第四条的内容服务者提供者应当遵守的规定。该条列举针对性的列举了生成式人工智能服务容易出现违规的要点，比如生成内容中可能包含暴力、淫秽色情和虚假有害信息，或者存在民族性别地域歧视，比如提供服务可能会侵犯他人的知识产权或商业秘密或侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益等，再比如服务提供者生成内容不准确、不可靠性误导他人等等，这些作为服务提供者应当在研发、设计人工智能、训练模型、提供服务中都是应该运用技术或人工筛查等手段应当避免发生的，大部分内容可以纳入服务提供者与使用者的书面协议中内容，也是对使用者的一种要求。

最后，生成式人工智能服务提供者应当在研发和提供服务时采取相应措施：1.应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务；2. 应当制定标注规则，在研发过程中进行数据标注；3.应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识；4.设计和实施相应处置措施，对违法内容可以采取停止生成、停止传输、消除等措施，对使用者利用生成式人工智能服务从事违法活动采取限制功能、暂停或者终止向其提供服务等措施。

小结

生成式人工智能是新兴事物，因此本暂行办法并不完美：暂行办法对国家支持生成式人工智能发展的举措都是框架条款，目前并没法落地执行；暂行办法对生成式人工智能参与者可能出现的违法违规行为，目前也主要适用现有的法律规定；暂行办法对生成式人工智能技术的含义描述也相对粗犷等等。但是，该暂行办法已经让我们对我们国家对生成式人工智能的态度有一定的了解，也指明了生成式人工智能服务提供者和使用者当下应当遵守的法律法规以及需要遵守的规则。该暂行办法作为我们国家第一部专门针对生成式人工智能的文件，具有其里程碑的意义。

相信我们国家后续会根据该暂行办法的原则和方针，根据生成式人工智能的不断发展和发展出现的问题，陆续出台相应的法律、法规、政策规定以及相应的实施细则文件，依法鼓励生成式人工智能的发展并依法治理生成式人工智能。

参考文献：

[1]国家网信办就《生成式人工智能服务管理暂行办法》答记者问

全站搜索

新闻中心

汉盛法评｜《生成式人工智能服务管理暂行办法》律师解读

汉盛法评｜以房抵债在执行程序是否具有对抗执行的效力？

汉盛法评｜中国证券投资基金业协会监管动态（2023年6月）

相关律师

徐君霞

扫码分享

搜索

相关研究

工程量清单项目特征描述不准确导致的争议及规避措施

企业赴美上市指南

《民法典》《九民纪要》下合同不成立、无效、被撤销或确定不发生效力的情形和法律后果简析

《治安管理处罚法》五十一条第一款第一项不宜随意适用

建设工程项目部印章对合同效力的影响及使用时的注意事项