生成式人工智能服务管理办法：规范技术应用，保障数据安全

生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，是人工智能领域的前沿技术之一。生成式人工智能技术具有广泛的应用场景和创新潜力，但同时也存在一些风险和挑战，如生成内容的真实性、合法性、道德性等问题，以及个人信息和数据安全等问题。

为了促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室日前起草了《生成式人工智能服务管理办法（征求意见稿）》，并向社会公开征求意见。这是我国首次针对生成式人工智能服务进行专门的管理规定，体现了我国对新技术发展的支持和引导，也显示了我国在全球范围内走在监管立法的前列。

《征求意见稿》从技术创新、服务提供、内容生成、数据保护等方面对生成式人工智能服务进行了全面规范。其中，一些亮点条款值得关注：

- 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。这体现了对技术创新的鼓励和支持，也为技术发展提供了安全保障。

- 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。这体现了对用户身份和行为的规范和引导，也为用户提供了健康使用的建议。

- 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。这体现了对公众服务的严格审核和监督，也为算法透明化提供了制度保障。

- 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。这体现了对个人信息和数据安全的重视和保护，也为用户提供了隐私权利的保障。

- 对于运行中发现、用户举报的不符合办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。这体现了对生成内容的真实性和合法性的要求和规范，也为用户提供了辨识和选择的依据。

- 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。这体现了对用户行为的监督和惩戒，也为维护网络秩序和社会公益提供了制度保障。

总之，《征求意见稿》是我国对生成式人工智能服务进行的首次管理规定，是对新技术发展的支持和引导，也是对新技术应用的规范和监督。《征求意见稿》既体现了对技术创新的鼓励和支持，又体现了对技术应用的规范和监督，既体现了对数据安全的重视和保护，又体现了对数据利用的开放和促进。《征求意见稿》有利于推动生成式人工智能技术健康发展和规范应用，保障数据安全和个人信息保护，维护网络秩序和社会公益，促进人工智能产业创新发展和社会经济发展。