国家网信办发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知

国家网信办发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知 第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。 第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。 第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。 第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。 网信办

【网信办发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知】

【网信办发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知】 4月11日消息，国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知。征求意见稿拟规定，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息，提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容等等。

网信办就《生成式人工智能服务管理办法》征求意见： 提供服务前应向国家网信部门申报安全评估； 生成式人工智能生成的内容应当体现社会

网信办就《生成式人工智能服务管理办法》征求意见： 提供服务前应向国家网信部门申报安全评估； 生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。 生成式AI的输出结果会存在因为训练数据集和算法局限而造成的偏差与错误，若管理办法落地，服务提供商的内部和外部的监管成本会相应升高。

《生成式人工智能服务安全基本要求》公开征求意见

《生成式人工智能服务安全基本要求》公开征求意见 据全国信息安全标准化技术委员会网站，该会组织制定的技术文件《生成式人工智能服务安全基本要求》（下称《要求》）已于10月11日形成征求意见稿，现将技术文件面向社会公开征求意见，如有意见或建议，需在10月25日24:00前反馈。《要求》提出，建立语料来源黑名单，不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估，单一来源语料内容含违法不良信息超5%应将其加入黑名单。应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件。应使用包含人脸等生物特征信息的语料时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。 来源：

中国信息安全标委会发布《生成式人工智能服务安全基本要求》公开征求意见

中国信息安全标委会发布《生成式人工智能服务安全基本要求》公开征求意见 据全国信息安全标准化技术委员会网站，该会组织制定的技术文件《生成式人工智能服务安全基本要求》（下称《要求》）已于10月11日形成征求意见稿，现将技术文件面向社会公开征求意见，如有意见或建议，需在10月25日24:00前反馈。 《要求》提出，建立语料来源黑名单，不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估，单一来源语料内容含违法不良信息超5%应将其加入黑名单。 应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件。 应使用包含人脸等生物特征信息的语料时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。 在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。 、

中央网信办公布《生成式人工智能服务管理暂行办法》自8月15日起实行。相比征求意见稿：

中央网信办公布《生成式人工智能服务管理暂行办法》自8月15日起实行。相比征求意见稿： 删除了“不得根据用户输入信息和使用情况进行画像”。 禁止生成内容中增加“损害国家形象”，删除“种族歧视”。 明确研发应用有关技术、但未向境内公众提供服务，就不需适用本法；新闻出版影视等领域对使用生成式AI另有规定的从其规定。 （中央网信办）