人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃 用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃 这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

【书名】生成式人工智能

【书名】生成式人工智能 【作者】丁磊 【格式】#epub #mobi #azw3 #pdf 【分类】#人工智能 #科普 【简介】本书基于作者的专业背景和长期实践，系统介绍生成式人工智能的内在逻辑与应用，并将其与产业发展，理论和实际相结合，帮助读者从本源了解生成式人工智能，结合未来趋势和发展为读者指明方向。

【世界人工智能大会法治论坛举行，聚焦生成式人工智能治理、元宇宙规制等热点】

【世界人工智能大会法治论坛举行，聚焦生成式人工智能治理、元宇宙规制等热点】 昨天，2023世界人工智能大会法治论坛举行。本次论坛主题为《数字治理：生成式人工智能之法律回应》。论坛发布了《世界人工智能法治蓝皮书（2023）》《人工智能法治发展指数4.0》《中国人工智能法治发展评估报告（2022）》。蓝皮书聚焦世界人工智能法治发展最新动态，搜集汇总各国有关人工智能法治发展的战略、政策、法律、理论研究、重大项目应用、典型司法案例等方面的最新资料，尤其是以ChatGPT为代表的最前沿的生成式人工智能治理、元宇宙规制等热点问题，通过分析、评估，形成了较为客观、公正、准确、全面的分析报告。 快讯/广告 联系 @xingkong888885

联合国报告：生成式人工智能加剧性别偏见

联合国报告：生成式人工智能加剧性别偏见 国际妇女节前夕，联合国教科文组织星期四（3月7日）发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向，呼吁各国政府制定监管框架，私营企业也应对偏见问题持续监测和评估。 新华社报道，此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama 2等都属于此类。 研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、性取向和文化背景的人群。例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的四倍。 联合国教科文组织总干事阿祖莱说：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。 2024年3月8日 4:19 PM

【日本设立多所生成式人工智能试点学校】

【日本设立多所生成式人工智能试点学校】 近日，日本文部科学省宣布已在 38 个自治团体中选择了 53 所学校作为试点学校，以观测生成式人工智能在学校现场的实际应用情况。试点学校将尝试利用生成式人工智能提高教学和校务工作效率，同时探究在学校中导入生成式人工智能的有效案例和课题。此前，日本文部科学省发布《初等和中等教育阶段使用生成式人工智能的暂定方针》，公开招募生成式人工智能试点学校。在教育教学活动应用方面，招募要求中特别强调必须确保学生充分了解“生成式人工智能的性质、优缺点以及人工智能没有自我或个性这一事实，要求学生重视自己的判断和思考而不是把一切都交给生成式人工智能”。试点学校要按照“了解生成式人工智能”、“学习使用方法”、“在各学科的学习中积极使用”、“日常生活中使用”的步骤，探索有效使用生成式人工智能的对策方法。 快讯/广告 联系 @xingkong888885

TikTok将自动标记人工智能生成的内容

TikTok将自动标记人工智能生成的内容 访问：Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN 该社交视频平台正在通过实施内容凭证（Content Credentials）来实现这一目标，内容凭证是内容出处和真实性联盟（C2PA）的一项技术，该联盟由微软和 Adobe 共同创立。内容凭证将特定的元数据附加到内容上，TikTok 可以利用这些元数据即时识别和标记人工智能生成的内容。因此，TikTok 将开始自动标注上传到平台并附加内容证书的人工智能生成内容。这一变更将于本周四推出，并将在未来几周内适用于全球所有用户。虽然 TikTok 已经对使用 TikTok AI 特效制作的 内容进行了标注，但现在它也将对在其他已实施内容证书的平台上制作的内容进行标注，如 OpenAI 的 DALL-E 3 和微软的必应图像创建器。 微软、Adobe 和 OpenAI 已经开始使用内容证书，Google也承诺支持内容证书。尽管 TikTok 已经要求创作者在发布使用人工智能创建或增强的内容时进行披露，但该公司表示，新的变化是确保人工智能生成的内容被标注的另一种方式，同时也减轻了创作者的压力。在未来几个月中，TikTok 还将开始为平台上使用 TikTok 人工智能特效创建的人工智能生成内容附加内容证书。内容证书元数据将包括人工智能生成内容的制作或编辑地点和方式的详细信息，下载后仍将附加在内容上。采用内容凭证的其他平台将能自动将内容标记为人工智能生成的内容。因此，虽然 TikTok 承诺在自己的服务中标注人工智能内容，但它也在努力帮助确保在 TikTok 中制作的人工智能内容在发布到其他平台时也能准确标注。TikTok 运营及信任与安全主管 Adam Presser 在一份新闻稿中表示："人工智能生成的内容是一个令人难以置信的创意出口，但对观众而言，透明度至关重要。通过与同行合作跨平台标注内容，我们让创作者更容易负责任地探索人工智能生成的内容，同时继续阻止 TikTok 上禁止的有害或误导性 AIGC。"TikTok 宣称自己是第一个采用内容凭证技术的视频分享平台。值得一提的是，Meta早在今年二月就宣布，计划在 C2PA 的解决方案基础上为内容添加出处。作为周四公告的一部分，TikTok 表示将致力于打击在选举中使用欺骗性人工智能的行为，其政策坚决禁止人工智能生成的有害误导性内容无论是否贴有标签。 ... PC版： 手机版：