英国将在11月初举办人工智能安全峰会 渴望邀请中国

英国将在11月初举办人工智能安全峰会渴望邀请中国英国政府发言人周三表示，此次会议将“让关键国家、领先科技公司和研究人员汇聚一堂，为了实现AI的安全和负责任的发展推动有针对性、快速的国际行动，并建立我们需要的监管护栏”。知情人士透露，英国渴望邀请主要AI大国中国。与此同时，英国担心与会者将无法在AI监管方面找到共同点，因此正在考虑换一个论坛进行讨论。目前，英国尚未发出邀请函。过去9个月里，随着生成式AI产品的开发加速，AI监管的必要性以及全球对AI监管规则的协调一直是人们热议的话题。此次峰会将广泛讨论AI安全问题，而不仅仅是聚焦生成式AI。知情人士称，峰会议程包括对话会议，旨在讨论使用AI系统的道德问题和围绕着它们建立的“护栏”，在选举到来之前解决虚假信息的潜在解决方案，以及网络安全的必要性。例如，设计安全的AI软件，以抵御黑客和邪恶的民族国家行为者。AI在战争中的使用(例如使用自主武器)，以及AI产品中广泛使用的半导体的可用性也在议程草案中。...PC版：https://www.cnbeta.com.tw/articles/soft/1377571.htm手机版：https://m.cnbeta.com.tw/view/1377571.htm

英国将举办首届全球峰会以阻止潜在的人工智能“终结者”

英国将举办首届全球峰会以阻止潜在的人工智能“终结者”“人工智能具有不可思议的潜力，可以让我们的生活变得更美好，”英国首相RishiSunak说。“但我们需要确保以安全可靠的方式开发和使用它。”“纵观历史，我们一次又一次地发明了颠覆范式的新技术，并利用它们造福人类。这是我们必须再次做的事情。没有一个国家可以单独做到这一点。这需要全球的努力。但凭借我们丰富的专业知识和对开放、民主国际体系的承诺，英国将与我们的盟友站在一起，引领潮流。”从日常生活到科幻小说，人工智能所带来的潜在风险已经被多方面关注。目前人工智能最常见的危险是它会产生称为幻觉的虚假信息。OpenAI正在研究其LLM中的处理方法，验证每个阶段的逻辑以减少"胡说八道"的发生率，但该模型尚未部署用于广泛使用。除了这个问题，人工智能还可以被恶意黑客用来生成可用于攻击的恶意代码。虽然这不直接构成人工智能安全问题，但围绕人工智能抢走工作的情况是政客们必须应对的另一件事。例如，上周报道说，一些公司已经开始用生成人工智能取代人类。在本次峰会宣布之前，RishiSunak的AI顾问MattClifford表示，如果不受监管，AI可能会在短短两年内变得非常强大，这显然会让人类难以控制。虽然终结者AI场景现在感觉像是科幻小说，而且可能会持续两年多，但政府最好在为时已晚之前调查潜在风险。...PC版：https://www.cnbeta.com.tw/articles/soft/1364211.htm手机版：https://m.cnbeta.com.tw/view/1364211.htm