《生成式人工智能服务安全基本要求》公开征求意见

《生成式人工智能服务安全基本要求》公开征求意见 据全国信息安全标准化技术委员会网站，该会组织制定的技术文件《生成式人工智能服务安全基本要求》（下称《要求》）已于10月11日形成征求意见稿，现将技术文件面向社会公开征求意见，如有意见或建议，需在10月25日24:00前反馈。《要求》提出，建立语料来源黑名单，不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估，单一来源语料内容含违法不良信息超5%应将其加入黑名单。应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件。应使用包含人脸等生物特征信息的语料时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。 来源：

中国信息安全标委会发布《生成式人工智能服务安全基本要求》公开征求意见

中国信息安全标委会发布《生成式人工智能服务安全基本要求》公开征求意见 据全国信息安全标准化技术委员会网站，该会组织制定的技术文件《生成式人工智能服务安全基本要求》（下称《要求》）已于10月11日形成征求意见稿，现将技术文件面向社会公开征求意见，如有意见或建议，需在10月25日24:00前反馈。 《要求》提出，建立语料来源黑名单，不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估，单一来源语料内容含违法不良信息超5%应将其加入黑名单。 应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件。 应使用包含人脸等生物特征信息的语料时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。 在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。 、

近日，全国标准信息公共服务平台显示，《智能网联汽车时空数据传感系统安全基本要求》《智能网联汽车时空数据安全处理基本要求》这两项智

近日，全国标准信息公共服务平台显示，《智能网联汽车时空数据传感系统安全基本要求》《智能网联汽车时空数据安全处理基本要求》这两项智能网联汽车行业强制性国家标准已进入公开征求意见阶段。其中，参与标准起草的协作单位包括清华大学、蔚来、比亚迪、华为、小鹏等。（上证报）

【国家网信办：生成式人工智能产品提供服务前需申报安全评估】

【国家网信办：生成式人工智能产品提供服务前需申报安全评估】 国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知。征求意见稿拟规定，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息，提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容等等。

微软和Google宣布为生成式人工智能服务提供新的儿童安全承诺

微软和Google宣布为生成式人工智能服务提供新的儿童安全承诺 这两家公司和其他公司与两个团体合作，提出了这些新的承诺。一个名为"Thorn"，是一个致力于打击儿童性虐待的非营利组织。另一个名为"所有科技都应以人为本"（All Tech Is Human），旨在帮助创建一个"负责任的科技生态系统"。微软在博文中表示，它将开发生成式人工智能模型，这些模型将不会在包含儿童性或剥削性内容的数据集上进行训练。这也将有助于保护这些模型在发布后免受此类内容的影响。博文补充道：今天的承诺标志着在防止滥用人工智能技术制作或传播儿童性虐待材料（AIG-CSAM）和其他形式的儿童性伤害方面迈出了重要一步。这一集体行动彰显了科技行业对儿童安全的重视，表明了对道德创新和社会最弱势群体福祉的共同承诺。Google在博文中提到的儿童安全承诺与微软 在其人工智能服务方面所做的一些承诺如出一辙。Google补充说，它有自己的团队专门负责查找显示儿童可能面临危险的内容，此外他们还表示，正试图通过"哈希匹配技术、人工智能分类器和人工审核的结合"来查找和删除涉及儿童性虐待和性剥削的内容。最后，Google宣布支持美国国会关于保护儿童免受虐待和剥削的一系列法案。 ... PC版： 手机版：

网信办就《生成式人工智能服务管理办法》征求意见： 提供服务前应向国家网信部门申报安全评估； 生成式人工智能生成的内容应当体现社会

网信办就《生成式人工智能服务管理办法》征求意见： 提供服务前应向国家网信部门申报安全评估； 生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。 生成式AI的输出结果会存在因为训练数据集和算法局限而造成的偏差与错误，若管理办法落地，服务提供商的内部和外部的监管成本会相应升高。