人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

林素蔚冀「照顾者资讯网」加入人工智能即时对话功能

林素蔚冀「照顾者资讯网」加入人工智能即时对话功能当局委托大学建立「照顾者资讯网」预计下月推出，为照顾者提供不同资讯，包括社区活动、照顾技巧等。立法会议员林素蔚表示，推出资讯网是一个跃进，但她担心社区不少照顾者不懂上网，甚至打电话亦要人协助，是否能够运用资讯网值得深究。她又期望资讯网正式推出前有试用版，让议员先了解成效。林素蔚在本台节目《千禧年代》建议，资讯网可以加入人工智能，设有即时对话功能，方便照顾者搜寻所需资料。至于当局推出「与照顾者同行」计划，为前线物管人员提供培训，教导识别有需要长者和护老者，林素蔚质疑，前线物管是否有能力深入介入个案，较合适的做法是他们初步观察到照顾者有需要，再转介合适机构跟进。荃湾石围角关爱队队长文裕明在同一节目说，关爱队过去主要以探访方式支援照顾者和长者，发现有需要跟进个案时，向他们转介社福服务，他认为关爱队不宜负责筛查及转介有问题个案，认为由社工或专业部门介入会较好。2023-10-0409:55:46

人工智能

作为帝国竞争力-信息战部分——俄罗斯“网信办”Roskomnadzor和Mindsmith和Rostelecom一起，在一项题为"攻击者手中的人工智能工具-威胁分类和对策”的研究中，确定了12组基于人工智能（AI）的关键技术用来识别和审查在线内容。被提到的技术群组是：⏺⏺确定视频中正在发生的事情的背景⏺自动化内容⏺⏺文本分析⏺支持⏺符号识别⏺元数据提取和分析⏺⏺的决策支持⏺⏺这项研究是基于对一系列科学出版物、专利和投资项目的分析-总共有三千多份材料。研究人员写道：“由于信息战的自动化和生成模型的不断发展，要想在不引入人工智能的情况下确保人群的认知安全已经非常成问题。国内模型的存在及其实施，以及国内数据集的使用，是国家安全问题，因为外国参与者能够出口人工智能，而人工智能算法只能由他们控制”。另一个结论是，“国家需要解决一个重要的基础设施问题：制定测试和评估人工智能模型的程序。这将使您看到和了解技术发展的前景，跟踪有前途的开发人员和有前途的项目。”研究人员说，“俄罗斯有专家可以创建本土的人工智能模型，但计算能力、基础设施以及公司与国家之间的合作都不足。由于强大的计算设备的生产目前在本国不够发达，让情况变得复杂。尽管如此，俄罗斯依然拥有世界一流的解决方案，尤其是在人脸识别和信息攻击领域。”如果您错过了《数字技术究竟是会杀死民主，还是拯救民主？：这个10年》https://iyouport.substack.com/p/lr-10《关于AI》https://www.patreon.com/posts/guan-yu-ai-79856615#AI#Empire#surveillance#censorship#InfoWarfare