人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

北京师范大学发布 “生成式人工智能科技伦理报告”

北京师范大学发布“生成式人工智能科技伦理报告”北京师范大学互联网发展研究院重磅发布了《向善而“生”——生成式人工智能技术发展中的科技伦理框架研究报告》。该报告是当前国内从社会伦理和社会治理视角，对生成式人工智能技术发展与应用开展全面深入研究的重要成果。报告梳理了生成式人工智能带来的发展新机遇、主要应用场景、技术运行逻辑、内在风险机理，分析了生成式人工智能可能带来的社会风险与科技伦理挑战，并对包容创新发展、引导科技向善提出了相应的政策建议。

联合国报告：生成式人工智能加剧性别偏见

联合国报告：生成式人工智能加剧性别偏见国际妇女节前夕，联合国教科文组织7日发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架，同时私营企业应对偏见问题持续监测和评估。大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama2等都属于此类。此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”（新华社）

【世界人工智能大会法治论坛举行，聚焦生成式人工智能治理、元宇宙规制等热点】

【世界人工智能大会法治论坛举行，聚焦生成式人工智能治理、元宇宙规制等热点】昨天，2023世界人工智能大会法治论坛举行。本次论坛主题为《数字治理：生成式人工智能之法律回应》。论坛发布了《世界人工智能法治蓝皮书（2023）》《人工智能法治发展指数4.0》《中国人工智能法治发展评估报告（2022）》。蓝皮书聚焦世界人工智能法治发展最新动态，搜集汇总各国有关人工智能法治发展的战略、政策、法律、理论研究、重大项目应用、典型司法案例等方面的最新资料，尤其是以ChatGPT为代表的最前沿的生成式人工智能治理、元宇宙规制等热点问题，通过分析、评估，形成了较为客观、公正、准确、全面的分析报告。快讯/广告联系@xingkong888885

美国宣布成立新NIST人工智能公共工作组 应对生成式人工智能风险

美国宣布成立新NIST人工智能公共工作组应对生成式人工智能风险短期目标为将工作组作为手机指导意见的工具，来完善NIST人工智能风险管理框架（AIRMF）来支持人工智能技术的开发。人工智能公共工作组的中期目标为支持NIST在人工智能相关的而是、评估和测量方面的工作。长远目标为在NIST人工智能风险管理框架的基础上，帮助解决生成式人工智能相关的机遇和挑战，以确保在人工智能应用程序开发和使用之前、之间和之后规避和管理风险。目前面对生成式人工智能，全球各个国家或地区反应不一，根据英国《金融时报》报道，欧洲议会正在准备对人工智能的使用实施约束措施并制定相关法案。...PC版：https://www.cnbeta.com.tw/articles/soft/1367111.htm手机版：https://m.cnbeta.com.tw/view/1367111.htm

报告：超一半德企拟加大力度应用生成式人工智能

报告：超一半德企拟加大力度应用生成式人工智能美国毕马威会计师事务所德国分公司本月在柏林发布的一份研究报告显示，53%的德国企业计划在未来12个月内增加对使用生成式人工智能的投资，这其中超过一半的企业计划增加至少40%的投入。这份名为《德国经济中的生成式人工智能》的报告基于今年3月对德国280多名企业决策者的调查。报告认为，总体而言德国企业认为使用生成式人工智能可以带来多方面积极影响，67%的受访者预计营业额会增加、自动化程度会提高，65%的受访者预计效率提高后成本会降低。但也有37%的受访者提到了失业、员工不接受以及数据保护问题等负面影响。