OpenAI 首席执行官山姆奥特曼呼吁中国帮助制定人工智能安全指南

OpenAI首席执行官山姆奥特曼呼吁中国帮助制定人工智能安全指南OpenAI首席执行官萨姆奥特曼表示，中国应该在塑造确保变革性新系统安全所需的人工智能护栏方面发挥关键作用。“随着越来越强大的人工智能系统的出现，全球合作的风险从未如此高，”奥特曼周六通过视频连线在北京的一次会议上说。在中国和硅谷，人才和投资都在流入人工智能，这是一个战略领域，将有助于确定世界两大经济体之间不断加深的技术竞争。新兴技术的进步也凸显了政府如何寻求监管该行业的紧张局势，中国国家主席习近平曾表示需要加强国家监督以减轻国家安全风险。“中国拥有世界上最优秀的人工智能人才，从根本上说，鉴于高级人工智能系统解决对接的困难，这需要全世界最优秀的人才，”奥特曼在北京人工智能学院主办的活动中告诉与会者。奥特曼在北京会议上的讲话本身就很值得注意，因为该学院在中国的人工智能领域有着强烈的定位。这个由中国科技部和北京地方政府支持的中国非营利机构，已被微软公司总裁布拉德·史密斯点名为中国三大人工智能中心之一。总裁布拉德-史密斯(BradSmith)指名道姓地称其为人工智能创新的三个领跑者之一。——

美英澳等18个国家联合制定"安全设计"人工智能指南

美英澳等18个国家联合制定"安全设计"人工智能指南指导方针主要包括一般性建议，如严格控制人工智能模型的基础设施，在模型发布前后对其进行监控，以及对员工进行网络安全风险培训。但人工智能领域的某些争议问题却未被提及，包括对图像生成模型的使用、深度伪造或数据收集方法以及在训练模型中的使用应采取哪些可能的控制措施--在这个问题上，多家人工智能公司曾因版权侵权而遭到起诉。美国国土安全部部长亚历杭德罗-马约卡斯（AlejandroMayorkas）在一份声明中说："我们正处于人工智能发展的拐点，人工智能很可能是我们这个时代最具影响力的技术。"网络安全是建立安全、可靠和值得信赖的人工智能系统的关键"。在这些指导方针出台之前，政府间还采取了其他举措对人工智能进行了权衡，包括政府和人工智能公司本月初在伦敦举行的人工智能安全峰会，以协调人工智能发展协议。与此同时，欧盟正在制定其人工智能法案的细节，该法案将对该领域进行监督，美国总统乔-拜登（JoeBiden）也于10月发布了一项行政命令，制定了人工智能安全和安保标准--尽管这两项行政命令都遭到了人工智能行业的反对，声称它们可能会扼杀创新。新的"设计安全"指导方针的其他共同签署国包括加拿大、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、韩国和新加坡。包括OpenAI、微软、Google、Anthropic和ScaleAI在内的人工智能公司也为制定该指导方针做出了贡献。...PC版：https://www.cnbeta.com.tw/articles/soft/1400045.htm手机版：https://m.cnbeta.com.tw/view/1400045.htm

英国首相Rishi Sunak警告快速制定人工智能法规可能带来的后果。

英国首相RishiSunak警告快速制定人工智能法规可能带来的后果。https://www.inty.news/2023/10/26/%e8%8b%b1%e5%9b%bd%e9%a6%96%e7%9b%b8rishi-sunak%e8%ad%a6%e5%91%8a%e5%bf%ab%e9%80%9f%e5%88%b6%e5%ae%9a%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e6%b3%95%e8%a7%84%e5%8f%af%e8%83%bd%e5%b8%a6%e6%9d%a5%e7%9a%84/