美国宣布成立新NIST人工智能公共工作组 应对生成式人工智能风险

美国宣布成立新NIST人工智能公共工作组应对生成式人工智能风险短期目标为将工作组作为手机指导意见的工具，来完善NIST人工智能风险管理框架（AIRMF）来支持人工智能技术的开发。人工智能公共工作组的中期目标为支持NIST在人工智能相关的而是、评估和测量方面的工作。长远目标为在NIST人工智能风险管理框架的基础上，帮助解决生成式人工智能相关的机遇和挑战，以确保在人工智能应用程序开发和使用之前、之间和之后规避和管理风险。目前面对生成式人工智能，全球各个国家或地区反应不一，根据英国《金融时报》报道，欧洲议会正在准备对人工智能的使用实施约束措施并制定相关法案。...PC版：https://www.cnbeta.com.tw/articles/soft/1367111.htm手机版：https://m.cnbeta.com.tw/view/1367111.htm

中国将对生成式人工智能服务实行包容审慎和分类分级监管

中国将对生成式人工智能服务实行包容审慎和分类分级监管中国国家网信办等七个部门联合公布《生成式人工智能服务管理暂行办法》，对生成式人工智能服务实行包容审慎和分类分级监管。据“网信中国”微信公号7月13日消息，中国国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自今年8月15日起施行。网信办有关负责人说，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。网信办负责人说，近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。《办法》提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。《办法》规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。《办法》提到，行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。网信办负责人说，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

促进生成式人工智能服务创新发展和规范应用，网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》要求，有序开展生成式人工智能

促进生成式人工智能服务创新发展和规范应用，网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》要求，有序开展生成式人工智能服务备案工作，现将已备案信息予以公告。提供具有舆论属性或者社会动员能力的生成式人工智能服务的，可通过属地网信部门履行备案程序，属地网信部门应及时将已备案信息对外公开发布。已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案生成式人工智能服务情况，注明模型名称及备案号。（网信中国微信公号）