国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》

国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》 近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

网信办就《生成式人工智能服务管理办法》征求意见： 提供服务前应向国家网信部门申报安全评估； 生成式人工智能生成的内容应当体现社会

网信办就《生成式人工智能服务管理办法》征求意见： 提供服务前应向国家网信部门申报安全评估； 生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。 生成式AI的输出结果会存在因为训练数据集和算法局限而造成的偏差与错误，若管理办法落地，服务提供商的内部和外部的监管成本会相应升高。

生成式人工智能服务安全基本要求

生成式人工智能服务安全基本要求 语料安全要求 语料来源安全要求，对提供者的要求如下。 a）语料来源管理方面： 1）应建立语料来源黑名单，不使用黑名单来源的数据进行训练； 2）应对各来源语料进行安全评估，单一来源语料内容中含违法不良信息超过5%的， 应将该来源加入黑名单。 b）不同来源语料搭配方面：应提高多样性，对每一种语言，如中文、英文等，以及每 一种语料类型，如文本、图片、视频、音频等，均应有多个语料来源；并应合理搭 配境内外来源语料。 安全第一 OpenAI 永远不可能正经进入国内市场