中国将对生成式人工智能服务实行包容审慎和分类分级监管

中国将对生成式人工智能服务实行包容审慎和分类分级监管中国国家网信办等七个部门联合公布《生成式人工智能服务管理暂行办法》，对生成式人工智能服务实行包容审慎和分类分级监管。据“网信中国”微信公号7月13日消息，中国国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自今年8月15日起施行。网信办有关负责人说，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。网信办负责人说，近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。《办法》提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。《办法》规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。《办法》提到，行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。网信办负责人说，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

中国音像与数字出版协会发布团体标准《出版业生成式人工智能技术应用指南》

中国音像与数字出版协会发布团体标准《出版业生成式人工智能技术应用指南》中国音像与数字出版协会发布团体标准《出版业生成式人工智能技术应用指南》的公告。根据《中国音像与数字出版协会团体标准管理规定》的相关要求，团体标准《出版业生成式人工智能技术应用指南》经立项审核、标准起草、征求意见、专家组审查等程序，并通过团标委审查，现予以批准发布。标准编号为T/CADPA47-2023，2023年12月20日发布，自2024年1月20日起开始实施。

G7呼吁出台AI技术标准 欧盟再次走在监管前沿

G7呼吁出台AI技术标准欧盟再次走在监管前沿尽管人工智能技术提供了许多好处，但它们的发展速度超过了监管机构能够跟上的速度。5月20日在日本广岛举行的G7领导人会议上发表的一份声明称，人工智能等数字技术的规则应该“符合人们共同的价值观”。峰会还达成共识，在今年年底之前创建一个专门讨论人工智能进展的部长级论坛，讨论围绕生成式人工智能的问题，例如版权和打击虚假信息。七国领导人还敦促经济合作与发展组织（OECD）等国际组织考虑对人工智能政策发展的影响进行分析。欧洲一直走在人工智能监管的前沿。欧盟本月已经接近通过一项人工智能技术监管的立法，这也有望成为全球首部全面的人工智能法案，并可能成为发达经济体的先例。“我们希望人工智能系统准确、可靠、安全且无歧视，无论其来源如何。”欧盟委员会主席乌尔苏拉·冯德莱恩5月19日表示。G7领导人还表示，他们需要尽快评估有关生成式人工智能的机遇和挑战，这也是近期ChatGPT引爆的一个技术热点。尽管各个国家都呼吁加强对人工智能的监管，但各国政府对于人工智能的态度也有差异。美国仍在探索人工智能方面的监管。上周，OpenAI公司CEO萨姆·奥尔特曼在国会听证上表示，美国应该考虑人工智能模型开发的许可和测试要求。美国总统拜登上个月表示，人工智能的威胁还有待观察。日本对于人工智能的态度更为宽松，该国已经承诺支持公共事业部门和工业领域采用人工智能技术。日本首相岸田文雄上周对政府的人工智能委员会表示：“重要的是要妥善处理人工智能的潜力和风险。”此外，生成式AI在某些特定领域方面的应用将面临更加严厉的监管。上周，世界卫生组织呼吁谨慎使用人工智能生成的大型语言模型工具。该组织称：“虽然借助这类工具可便利地获取健康信息，甚至能在资源不足的地区提高诊断能力，但在使用时必须仔细考察其风险。”医疗健康行业是全球监管最严格的行业之一。以美国为例，尽管人工智能在美国医疗保健中的使用发展迅速，但仍缺乏全面监管。“ChatGPT这类生成式AI的使用未来需要遵守相关法律法规，包括说明其预期使用目的、验证AI的准确性以及确认训练数据可靠、具有代表性无偏见。”一位业内人士对第一财经记者表示。相关文章:七国集团呼吁制订与采用人工智能国际技术标准...PC版：https://www.cnbeta.com.tw/articles/soft/1360853.htm手机版：https://m.cnbeta.com.tw/view/1360853.htm

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——

经济日报：加强人工智能伦理治理

经济日报：加强人工智能伦理治理经济日报发文称，近日，人工智能研究公司OpenAI推出全新的生成式人工智能模型Sora成为全球关注热点。Sora的出现意味着人工智能技术已经发展到一个新的高度，同时也对人工智能技术的监管能力提出挑战。如果不能有效地管控Sora等技术，可能会出现无法预料的后果。人工智能技术日新月异，伦理规范和监管制度难免存在滞后性。加之伦理问题的复杂性，各个国家和地区规范存在差异，许多规定过于原则性，缺乏可操作性，难以有效落地实施。因此，完善细化相关伦理规范，加强审查和监管，以及相关伦理教育和宣传，更显迫切。只有正视Sora带来的伦理挑战，并加强伦理治理，才能确保人工智能技术造福人类，而不是成为威胁。

ChatGPT威胁版权？42家德国作者和表演者协会呼吁欧盟对AI加强监管

ChatGPT威胁版权？42家德国作者和表演者协会呼吁欧盟对AI加强监管这封信着重强调了对ChatGPT等生成式人工智能技术的担忧，这种技术可以基于用户的提示模仿人类创作文本和图片。“未经授权使用受保护的训练资料、不透明的程序以及生成式人工智能可以预见的输出替代源，引发了责任、义务和薪酬等根本问题。必须在不可逆转的伤害发生前解决这些问题。”信中写道，“对于任何有意义的人工智能市场监管法规而言，生成式人工智能都应该成为关注的核心。”欧盟委员会去年提议起草人工智能法规，他们将在未来几个月与欧盟立法者和欧盟成员国讨论最终细节，之后才会正式立法。上述组织表示，这些法规应当在生成式人工智能的整个生命周期中对其加强监管，尤其是对基础模型提供商进行监管。他们还呼吁这类技术的提供商对其技术生成和传播的所有内容承担责任，特别是当发生侵犯个人权益和版权以及散布虚假信息或歧视性信息时。该信还表示，不应允许微软、谷歌、亚马逊和MetaPlatform等基础模型提供商运营从事数字内容分发的中央平台服务。...PC版：https://www.cnbeta.com.tw/articles/soft/1355789.htm手机版：https://m.cnbeta.com.tw/view/1355789.htm