网信办就《生成式人工智能服务管理办法》征求意见: 提供服务前应向国家网信部门申报安全评估; 生成式人工智能生成的内容应当体现社会

网信办就《生成式人工智能服务管理办法》征求意见: 提供服务前应向国家网信部门申报安全评估; 生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。 生成式AI的输出结果会存在因为训练数据集和算法局限而造成的偏差与错误,若管理办法落地,服务提供商的内部和外部的监管成本会相应升高。

相关推荐

封面图片

国家网信办发布关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知

国家网信办发布关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知 第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。 第十条 提供者应当明确并公开其服务的适用人群、场合、用途,采取适当措施防范用户过分依赖或沉迷生成内容。 第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容,除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止再次生成。 第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。 网信办

封面图片

《生成式人工智能服务安全基本要求》公开征求意见

《生成式人工智能服务安全基本要求》公开征求意见 据全国信息安全标准化技术委员会网站,该会组织制定的技术文件《生成式人工智能服务安全基本要求》(下称《要求》)已于10月11日形成征求意见稿,现将技术文件面向社会公开征求意见,如有意见或建议,需在10月25日24:00前反馈。《要求》提出,建立语料来源黑名单,不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估,单一来源语料内容含违法不良信息超5%应将其加入黑名单。应使用包含个人信息的语料时,获得对应个人信息主体的授权同意,或满足其他合法使用该个人信息的条件。应使用包含人脸等生物特征信息的语料时,获得对应个人信息主体的书面授权同意,或满足其他合法使用该生物特征信息的条件。在训练过程中,应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。 来源:

封面图片

中国信息安全标委会发布《生成式人工智能服务安全基本要求》公开征求意见

中国信息安全标委会发布《生成式人工智能服务安全基本要求》公开征求意见 据全国信息安全标准化技术委员会网站,该会组织制定的技术文件《生成式人工智能服务安全基本要求》(下称《要求》)已于10月11日形成征求意见稿,现将技术文件面向社会公开征求意见,如有意见或建议,需在10月25日24:00前反馈。 《要求》提出,建立语料来源黑名单,不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估,单一来源语料内容含违法不良信息超5%应将其加入黑名单。 应使用包含个人信息的语料时,获得对应个人信息主体的授权同意,或满足其他合法使用该个人信息的条件。 应使用包含人脸等生物特征信息的语料时,获得对应个人信息主体的书面授权同意,或满足其他合法使用该生物特征信息的条件。 在训练过程中,应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。 、

封面图片

国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》

国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》 近日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《》(以下称《办法》),自2023年8月15日起施行。国家互联网信息办公室有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

封面图片

生成式AI:人工智能的未来.zip

生成式AI:人工智能的未来.zip 简介:本书《生成式AI:人工智能的未来.zip》涵盖生成式AI:人工智能的未来.zip的方方面面,结合专业知识、研究成果和实例解析,帮助读者构建完整的知识体系,实现更深层次的理解。 标签: #生成#学习#成长#进步 文件大小NG 链接:https://pan.quark.cn/s/f6415efe5383

封面图片

网站生成式人工智能手册

网站生成式人工智能手册 网站功能:人工智能学习手册 网站简介:一个免费、开源的学习资源,旨在系统地组织和呈现现代人工智能(AI)系统的核心概念,尤其是大型语言模型(LLM)和其他生成式模型的最新进展。 该手册为技术背景的读者提供了一条学习路径,帮助他们深入理解生成式AI的基础和应用,特别适合那些对AI充满好奇或希望在该领域发展职业的人士。 网站链接:点击打开 频道 群聊 投稿 商务

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人