美英澳等18个国家联合制定"安全设计"人工智能指南

美英澳等18个国家联合制定"安全设计"人工智能指南指导方针主要包括一般性建议，如严格控制人工智能模型的基础设施，在模型发布前后对其进行监控，以及对员工进行网络安全风险培训。但人工智能领域的某些争议问题却未被提及，包括对图像生成模型的使用、深度伪造或数据收集方法以及在训练模型中的使用应采取哪些可能的控制措施--在这个问题上，多家人工智能公司曾因版权侵权而遭到起诉。美国国土安全部部长亚历杭德罗-马约卡斯（AlejandroMayorkas）在一份声明中说："我们正处于人工智能发展的拐点，人工智能很可能是我们这个时代最具影响力的技术。"网络安全是建立安全、可靠和值得信赖的人工智能系统的关键"。在这些指导方针出台之前，政府间还采取了其他举措对人工智能进行了权衡，包括政府和人工智能公司本月初在伦敦举行的人工智能安全峰会，以协调人工智能发展协议。与此同时，欧盟正在制定其人工智能法案的细节，该法案将对该领域进行监督，美国总统乔-拜登（JoeBiden）也于10月发布了一项行政命令，制定了人工智能安全和安保标准--尽管这两项行政命令都遭到了人工智能行业的反对，声称它们可能会扼杀创新。新的"设计安全"指导方针的其他共同签署国包括加拿大、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、韩国和新加坡。包括OpenAI、微软、Google、Anthropic和ScaleAI在内的人工智能公司也为制定该指导方针做出了贡献。...PC版：https://www.cnbeta.com.tw/articles/soft/1400045.htm手机版：https://m.cnbeta.com.tw/view/1400045.htm

哈佛大学发布人工智能在课堂使用指南

哈佛大学发布人工智能在课堂使用指南具体而言，指南给出了三种不同的建议政策供教授选择:完全限制使用、完全鼓励使用以及混合方法。指南强调教授有权决定自己的课程政策，但应该向学生清楚传达选定的政策。图源备注：图片由AI生成，图片授权服务商Midjourney哈佛艺术与科学学院的院长表示，这份指南的一个基本原则是教师对自己的课程有所有权，因此没有一种适用于所有课程的政策。学院还在今年7月发布了全校范围内的人工智能指南，重点是保护非公开数据。指南建议教师不要将学生的作业输入人工智能系统，以保护学生的隐私。学校还正在与第三方人工智能公司合作开发一款名为“AISandbox”的工具，该工具将为学校提供一个安全的环境来测试生成式人工智能。尽管如此，学院并不鼓励使用人工智能检测工具，因为这些工具不够可靠。在过去的一学期中，有57%的教师表示他们没有明确的关于使用人工智能的政策。尽管学院强调了明确的人工智能政策的重要性，但是学校各个学部的很多课程在本学期仍然没有相关政策。在政府系、英语系和分子与细胞生物学系的课程中，大部分课程的教学大纲都没有提及人工智能的使用政策。其中一些课程明确禁止使用工具如ChatGPT，而另一些课程则允许适当地使用。许多课程明确禁止使用人工智能来回答作业问题、解释概念或编写代码，而只允许在特定的课程作业中使用。...PC版：https://www.cnbeta.com.tw/articles/soft/1381095.htm手机版：https://m.cnbeta.com.tw/view/1381095.htm

【英国发布人工智能监管白皮书，概述针对ChatGPT等人工智能治理的五项原则】

【英国发布人工智能监管白皮书，概述针对ChatGPT等人工智能治理的五项原则】2023年03月29日08点35分老不正经报道，英国政府发布了针对人工智能产业监管的白皮书，概述了针对ChatGPT等人工智能治理的五项原则。它们分别是：安全性和稳健性、透明度和可解释性、公平性、问责制和管理，以及可竞争性。在接下来的12个月里，监管机构将向相关组织发布实用指南，以及风险评估模板等其他工具，制定基于五项原则的一些具体规则。也将在议会推动立法，制定具体的人工智能法案。

美国白宫发布人工智能行政命令 指示各机构制定安全指南

美国白宫发布人工智能行政命令指示各机构制定安全指南一些政府机构的任务是制定标准，防止利用人工智能设计生物材料，建立内容认证的最佳实践，并建立先进的网络安全计划。国家标准与安全研究所（NIST）将负责制定标准，以便在公开发布之前对人工智能模型进行"红队"测试，而能源部和国土安全部则负责应对人工智能对基础设施的潜在威胁，以及化学、生物、辐射、核和网络安全风险。OpenAI的GPT和Meta的Llama2等大型人工智能模型的开发者必须分享安全测试结果。拜登政府的一位高级官员在一次简报会上告诉记者，安全准则主要适用于未来的人工智能模型。这位官员说："我们不会召回公开的现有模型。现有模型仍需遵守已有的反歧视规则"。为了保护用户隐私，白宫呼吁国会通过数据隐私法规。该命令还寻求联邦政府支持开发"隐私保护"技术和科技。该命令的部分内容计划防止利用人工智能进行歧视，包括解决算法歧视问题，并确保在利用该技术进行判刑、假释和监控时的公平性。它还命令政府机构为房东、联邦福利计划和合同提供指导方针，说明如何防止人工智能加剧歧视。白宫还指示各机构解决失业问题，并就人工智能对劳动力市场的影响编写一份报告。白宫还希望鼓励更多工人在人工智能生态系统中工作，并下令启动国家人工智能研究资源，为学生和人工智能研究人员提供关键信息，并为小企业提供技术援助。它还指示政府迅速聘用人工智能专业人员。拜登政府首先发布了《人工智能权利法案》，概述了人工智能模型开发者应遵循的一系列原则。后来，这些原则被转化为白宫与Meta、Google、OpenAI、NVIDIA和Adobe等多家人工智能公司之间的一系列协议。需要注意的是，行政命令并不是永久性法律，一般只能在拜登执政期间有效。立法者仍在讨论如何监管人工智能，不过一些政治家表示，他们希望在今年年底前通过有关人工智能的法律。行业观察家说，行政命令至少在提供有关生成式人工智能的标准方面向前迈出了一步。CredoAI创始人、国家人工智能咨询委员会成员纳夫里娜-辛格（NavrinaSingh）说，行政命令是一个强烈的信号，表明美国对生成式人工智能是重视的。辛格说："这是目前最正确的举措，因为在立法还在讨论的时候，我们不能指望政策一开始就完美无缺。我相信，这确实表明人工智能是政府的重中之重。"...PC版：https://www.cnbeta.com.tw/articles/soft/1393197.htm手机版：https://m.cnbeta.com.tw/view/1393197.htm

印尼通信部草拟人工智能道德指南 约束AI开发运用

印尼通信部草拟人工智能道德指南约束AI开发运用印度尼西亚通信部草拟了一份人工智能伦理指南，以期防止人工智能技术遭到滥用。路透社星期四（12月7日）引述印尼通信部草拟的指南报道，印尼当局表明，“基于人工智能（AI）的编程活动，须以规范其使用和开发的道德规范为前提”。草案也指出，这份伦理指南旨在减轻AI的运用可能造成的所有“影响和损失”，同时建议开发人员在“AI使用的灾难发生时”，制定风险管理战略，并做好此类事件的报告和恢复机制。不过，这份指南并未详细列举使用AI造成的损失或灾难的类型。报道称，相关道德准则还包括隐私保护和人性化。指南还指出，AI的使用，包括AI产品开发和营销须促进创新，不能取代人类的存在。通信部高级官员坎松（UsmanKansong）认证了这份草案的真实性，但称不知道草案何时发布。不过当地媒体引述副部长称，希望草案能在本月发布。路透社指出，印尼这份伦理指南或将先于东南亚国家的“商业友好型”（business-friendly）法规出台。“商业友好型”法规要求企业考虑各国的文化差异，并警告AI被用于误导信息的风险。报道引述消息人士称，“商业友好型”法规有望在下个月定稿。2023年12月7日3:53PM