人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

人工智能

作为帝国竞争力-信息战部分——俄罗斯“网信办”Roskomnadzor和Mindsmith和Rostelecom一起，在一项题为"攻击者手中的人工智能工具-威胁分类和对策”的研究中，确定了12组基于人工智能（AI）的关键技术用来识别和审查在线内容。被提到的技术群组是：⏺⏺确定视频中正在发生的事情的背景⏺自动化内容⏺⏺文本分析⏺支持⏺符号识别⏺元数据提取和分析⏺⏺的决策支持⏺⏺这项研究是基于对一系列科学出版物、专利和投资项目的分析-总共有三千多份材料。研究人员写道：“由于信息战的自动化和生成模型的不断发展，要想在不引入人工智能的情况下确保人群的认知安全已经非常成问题。国内模型的存在及其实施，以及国内数据集的使用，是国家安全问题，因为外国参与者能够出口人工智能，而人工智能算法只能由他们控制”。另一个结论是，“国家需要解决一个重要的基础设施问题：制定测试和评估人工智能模型的程序。这将使您看到和了解技术发展的前景，跟踪有前途的开发人员和有前途的项目。”研究人员说，“俄罗斯有专家可以创建本土的人工智能模型，但计算能力、基础设施以及公司与国家之间的合作都不足。由于强大的计算设备的生产目前在本国不够发达，让情况变得复杂。尽管如此，俄罗斯依然拥有世界一流的解决方案，尤其是在人脸识别和信息攻击领域。”如果您错过了《数字技术究竟是会杀死民主，还是拯救民主？：这个10年》https://iyouport.substack.com/p/lr-10《关于AI》https://www.patreon.com/posts/guan-yu-ai-79856615#AI#Empire#surveillance#censorship#InfoWarfare