近日，国家互联网信息办公室发布通知，就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）公开征求意见。这或将是我国专门针对AIGC（人工智能生成内容）发布的第一份政府文件，引发社会各界广泛关注。本期“思与辨”就该问题进行讨论。

　　主持人：赵鑫

　　嘉 宾：盘和林（浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员）

　　李岩（辽宁大学法学院副院长、教授）

　　国瀚文（西北政法大学民商法学院讲师、数字法学研究院特聘研究员）

　　《办法》为企业发展提供一个合规框架

　　主持人：从年初至今，以ChatGPT为代表的生成式人工智能引爆科技圈，一些国内公司也纷纷推出相应的产品和服务。此时国家出台《办法》规范生成式人工智能，释放了哪些信号？

　　李岩：第一，明确我国致力于人工智能服务合法化发展的立场。《办法》为企业发展提供一个合规框架，并试图在合规前提下打造出人工智能技术创新发展新局面。第二，对服务提供者提出了高标准的合规义务要求。一方面，服务提供者需要在应用中满足运营合规要求；另一方面，服务提供者将作为主要的人工智能生成物法律责任的承担者。《办法》在责任承担上实现了与其他法律制度的衔接，服务提供者不仅需要承担生成内容生产者的责任，还需要承担作为个人信息处理者的责任。

　　盘和林：一个信号是我们走的是先规范后发展的模式，在这个总基调下，互联网企业要考虑应用的合规性。另一个信号是监管层对于AIGC这一新事物还没有做好充分的准备，政策的执行具体流程是怎么样的？主管单位是谁？怎么认定是真实准确的内容？这些细节还没有确切的说法，《办法》还是一个粗线条的条款，是对于当前国内对AIGC一哄而上无序状态的应急性举措，所以《办法》还有很大的完善空间。

　　国瀚文：透过该《办法》可以看出国家鼓励生成式人工智能的发展，同时也将加大管理、监督力度，引导和规范相关行业。该《办法》一方面体现了国家对个人权益的保护，另一方面也体现出国家大力支持人工智能产业，推动相关产业技术的发展。

　　我国关注的重点是内容生成的价值取向问题

　　主持人：此前，有不少国家对生成式人工智能出台了监管新政，侧重点各不相同。我国出台的《办法》有哪些显著特点？哪些规定值得特别关注？

　　国瀚文：一是对生成式人工智能服务的监管贯穿始终，规定了申报安全评估、履行算法备案等登记手续。二是强调生成式人工智能产品或服务需遵守法律规范及尊重社会公德、公序良俗，与我国对待数据产业的态度是一致的。

　　值得关注的是，《办法》聚焦生成式人工智能服务的安全合法，强调生成式人工智能服务的治理及权益保护，对算法的可靠性和透明度提出了要求。

　　总体来看，《办法》回应了当前生成式人工智能发展的需要，对一些可能出现的衍生问题提出防范举措，有助于提前研判规避风险。

　　盘和林：《办法》和其他国家的监管目标是不同的，我国关注的重点是内容生成的价值取向问题。规范生成内容是可以做到的，因为AI是高质量数据训练的产物，文本也好，图像也好，都是可以达成目标的，但现在以提供方为责任人的规定，我认为还是要有所调整，诸如用户也要负一定责任，因为AI生成内容是和用户有关系的。所以要加强对用户责任的认定，不能让所有的责任都由提供方来承担。当然，提供方有责任进行一些必要的限制，来回避敏感内容，但即便是提供方屏蔽了，模型训练了，还是无法回避所有的问题，因为人类文字，尤其是中文是很复杂的，如果出现歧义，应该给予适度包容，如果被用户恶意传播，则应该让用户承担相应责任。

　　李岩：第一，《办法》提出了全流程全周期的监管要求。对算法入市、数据来源、数据训练输出文本等各个环节的风险控制，提出了要求。第二，《办法》的监管举措主要通过为服务提供者设置监管义务实现。第三，《办法》设置了多条引致条款，与《数据安全法》《个人信息保护法》等现行法律法规形成良好衔接，能够发挥出体系效应。

　　值得注意的是，《办法》第十一条规定不得非法留存能推断出用户身份的输入信息。这一规定能够有效防范个人信息泄露风险。但如何实现这类信息与其他信息的区分，还需要进一步研究。另外，《办法》未涉及对于商业秘密或高敏感度的商业数据的留存问题，缺乏对商业数据的事前监管。

　　包容审慎的审查观能够更好实现技术发展与安全之间的平衡

　　主持人：对于规范生成式人工智能，您还有哪些好的建议？

　　盘和林：立法应该关注AIGC的一些特性，比如内容生成的随机性，比如责任划分问题。如果先规范再发展成为主基调，那么在规范方面要考虑更加成熟的立法方案，因为法规一旦出台，就需要不折不扣地执行。而如果法律出台之后，对AIGC产业发展造成了阻碍，导致大量AIGC应用无法落地，那就有可能导致新的科技差距。所以立法还是要进一步细化，做好每一条的解释工作，落实责任主体。也要和AIGC领域的龙头企业做好沟通。对于新技术，我们都有一个接受的过程，对新技术的理解不可能一步到位。法律就是画红线，红线是规范企业行为的，红线划得越细，企业获得的空间就越大，企业在科技领域的表现就越活跃。

　　国瀚文：规范生成式人工智能，首先应完善相关的法律法规，对生成式人工智能服务进行分类管理；其次，建立完整的安全评估规范和管理流程规范，保障数据安全及隐私安全，提高生成式人工智能服务的质量和水平。

　　李岩：第一，建立包容审慎的生成式人工智能审查模式。包容审慎的审查观能够更好实现技术发展与安全之间的平衡，为企业的技术发展预留空间。第二，建立专门监管机构，对生成式人工智能实施专项监管。生成式人工智能行业的监管需要一定的技术支持，不仅需要借助技术手段监管，而且需要技术人才进行风险解构。传统监管模式容易出现权限划分争端，可能出现监管权限交叉或监管真空问题，专项监管模式有助于实现算法的分级分类管理。