美英等国发布人工智能系统开发联合指南，要求使AI“通过设计变得安全”

美英等国发布人工智能系统开发联合指南，要求使AI“通过设计变得安全”路透华盛顿11月27日-美国、英国和其他十几个国家周日公布了美国高级官员所说的第一份关于如何保护人工智能免受流氓行为者侵害的详细国际协议，敦促企业创建“设计安全”的人工智能系统。在周日公布的一份长达20页的文件中，18个国家一致认为，设计和使用人工智能的公司需要以确保客户和广大公众免受滥用的方式开发和部署人工智能。该协议不具有约束力，主要包含一般性建议，例如监控人工智能系统是否被滥用、保护数据免遭篡改以及审查软件供应商。除美国和英国外，签署新指南的18个国家还包括德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡。——

哈佛大学发布人工智能在课堂使用指南

哈佛大学发布人工智能在课堂使用指南具体而言，指南给出了三种不同的建议政策供教授选择:完全限制使用、完全鼓励使用以及混合方法。指南强调教授有权决定自己的课程政策，但应该向学生清楚传达选定的政策。图源备注：图片由AI生成，图片授权服务商Midjourney哈佛艺术与科学学院的院长表示，这份指南的一个基本原则是教师对自己的课程有所有权，因此没有一种适用于所有课程的政策。学院还在今年7月发布了全校范围内的人工智能指南，重点是保护非公开数据。指南建议教师不要将学生的作业输入人工智能系统，以保护学生的隐私。学校还正在与第三方人工智能公司合作开发一款名为“AISandbox”的工具，该工具将为学校提供一个安全的环境来测试生成式人工智能。尽管如此，学院并不鼓励使用人工智能检测工具，因为这些工具不够可靠。在过去的一学期中，有57%的教师表示他们没有明确的关于使用人工智能的政策。尽管学院强调了明确的人工智能政策的重要性，但是学校各个学部的很多课程在本学期仍然没有相关政策。在政府系、英语系和分子与细胞生物学系的课程中，大部分课程的教学大纲都没有提及人工智能的使用政策。其中一些课程明确禁止使用工具如ChatGPT，而另一些课程则允许适当地使用。许多课程明确禁止使用人工智能来回答作业问题、解释概念或编写代码，而只允许在特定的课程作业中使用。...PC版：https://www.cnbeta.com.tw/articles/soft/1381095.htm手机版：https://m.cnbeta.com.tw/view/1381095.htm

美英澳等18个国家联合制定"安全设计"人工智能指南

美英澳等18个国家联合制定"安全设计"人工智能指南指导方针主要包括一般性建议，如严格控制人工智能模型的基础设施，在模型发布前后对其进行监控，以及对员工进行网络安全风险培训。但人工智能领域的某些争议问题却未被提及，包括对图像生成模型的使用、深度伪造或数据收集方法以及在训练模型中的使用应采取哪些可能的控制措施--在这个问题上，多家人工智能公司曾因版权侵权而遭到起诉。美国国土安全部部长亚历杭德罗-马约卡斯（AlejandroMayorkas）在一份声明中说："我们正处于人工智能发展的拐点，人工智能很可能是我们这个时代最具影响力的技术。"网络安全是建立安全、可靠和值得信赖的人工智能系统的关键"。在这些指导方针出台之前，政府间还采取了其他举措对人工智能进行了权衡，包括政府和人工智能公司本月初在伦敦举行的人工智能安全峰会，以协调人工智能发展协议。与此同时，欧盟正在制定其人工智能法案的细节，该法案将对该领域进行监督，美国总统乔-拜登（JoeBiden）也于10月发布了一项行政命令，制定了人工智能安全和安保标准--尽管这两项行政命令都遭到了人工智能行业的反对，声称它们可能会扼杀创新。新的"设计安全"指导方针的其他共同签署国包括加拿大、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、韩国和新加坡。包括OpenAI、微软、Google、Anthropic和ScaleAI在内的人工智能公司也为制定该指导方针做出了贡献。...PC版：https://www.cnbeta.com.tw/articles/soft/1400045.htm手机版：https://m.cnbeta.com.tw/view/1400045.htm