美国发起人工智能军事用途倡议

美国发起人工智能军事用途倡议她说，美国提出的政治宣言包含不具法律约束力的准则，概述了负责任地将人工智能用于军事的最佳做法，"可以成为国际合作的一个焦点。"詹金斯在海牙举行的为期两天的会议结束时发布了该宣言，由于俄罗斯在乌克兰战争中无人机技术的进步加速了一种趋势，可能很快会将世界上第一个完全自主的战斗机器人带到战场上，因此该宣言变得更加紧迫。美国的宣言有12点，包括人工智能的军事用途符合国际法，以及各国"保持人类对所有对通知和执行有关核武器使用的主权决定至关重要的行动的控制和参与。"出席海牙会议的乔治-梅森大学武器创新分析师扎卡里-卡伦伯恩（ZacharyKallenborn）说，美国将其方法推向国际舞台的举动"认识到人们对自主武器有这些担忧。这本身就很重要"。卡伦伯恩说，华盛顿包括呼吁人类控制核武器也很重要，"因为当涉及到自主武器风险时，我认为这很容易成为人类可能面临的最高风险"。强调围绕人工智能和自主武器的国际紧迫感，包括美国和中国在内的60个国家在海牙会议上发出行动呼吁，敦促在人工智能的发展和负责任的军事使用方面进行广泛合作。"我们来得及减轻风险，防止人工智能失去控制，我们来得及防止人工智能把我们带到一个我们根本不想去的地方，"荷兰外交部长沃普克-霍克斯特拉说。在荷兰发出的行动呼吁强调了"确保对人工智能系统的使用采取适当的保障措施和人为监督的重要性，同时牢记由于时间和能力的限制而造成的人类局限性"。参与国还邀请各国"制定关于军事领域负责任人工智能的国家框架、战略和原则"。军事分析家和人工智能研究人员说，乌克兰近一年的战争持续的时间越长，就越有可能使用无人机来识别、选择和攻击目标，而无需人类的帮助。乌克兰数字转型部长米哈伊洛-费多罗夫(MykhailoFedorov)在最近的一次采访中告诉美联社，完全自主的杀手级无人机是武器发展中"合乎逻辑且不可避免的下一步"。他说，乌克兰一直在做"这个方向上的大量研发工作"。乌克兰已经拥有半自动攻击无人机和被赋予人工智能的反无人机武器。俄罗斯也声称拥有人工智能武器，尽管这种说法没有得到证实。但目前还没有证实一个国家将完全靠自己杀人的机器人投入战斗的例子。俄罗斯没有被邀请参加在海牙举行的会议。中国驻荷兰大使谭建出席了会议，并表示北京已经向联合国提交了两份关于规范军事人工智能应用的文件，他说这个问题"关系到人类的共同安全和福祉，需要所有国家的联合应对"。...PC版：https://www.cnbeta.com.tw/articles/soft/1344999.htm手机版：https://m.cnbeta.com.tw/view/1344999.htm

美国白宫发布人工智能行政命令 指示各机构制定安全指南

美国白宫发布人工智能行政命令指示各机构制定安全指南一些政府机构的任务是制定标准，防止利用人工智能设计生物材料，建立内容认证的最佳实践，并建立先进的网络安全计划。国家标准与安全研究所（NIST）将负责制定标准，以便在公开发布之前对人工智能模型进行"红队"测试，而能源部和国土安全部则负责应对人工智能对基础设施的潜在威胁，以及化学、生物、辐射、核和网络安全风险。OpenAI的GPT和Meta的Llama2等大型人工智能模型的开发者必须分享安全测试结果。拜登政府的一位高级官员在一次简报会上告诉记者，安全准则主要适用于未来的人工智能模型。这位官员说："我们不会召回公开的现有模型。现有模型仍需遵守已有的反歧视规则"。为了保护用户隐私，白宫呼吁国会通过数据隐私法规。该命令还寻求联邦政府支持开发"隐私保护"技术和科技。该命令的部分内容计划防止利用人工智能进行歧视，包括解决算法歧视问题，并确保在利用该技术进行判刑、假释和监控时的公平性。它还命令政府机构为房东、联邦福利计划和合同提供指导方针，说明如何防止人工智能加剧歧视。白宫还指示各机构解决失业问题，并就人工智能对劳动力市场的影响编写一份报告。白宫还希望鼓励更多工人在人工智能生态系统中工作，并下令启动国家人工智能研究资源，为学生和人工智能研究人员提供关键信息，并为小企业提供技术援助。它还指示政府迅速聘用人工智能专业人员。拜登政府首先发布了《人工智能权利法案》，概述了人工智能模型开发者应遵循的一系列原则。后来，这些原则被转化为白宫与Meta、Google、OpenAI、NVIDIA和Adobe等多家人工智能公司之间的一系列协议。需要注意的是，行政命令并不是永久性法律，一般只能在拜登执政期间有效。立法者仍在讨论如何监管人工智能，不过一些政治家表示，他们希望在今年年底前通过有关人工智能的法律。行业观察家说，行政命令至少在提供有关生成式人工智能的标准方面向前迈出了一步。CredoAI创始人、国家人工智能咨询委员会成员纳夫里娜-辛格（NavrinaSingh）说，行政命令是一个强烈的信号，表明美国对生成式人工智能是重视的。辛格说："这是目前最正确的举措，因为在立法还在讨论的时候，我们不能指望政策一开始就完美无缺。我相信，这确实表明人工智能是政府的重中之重。"...PC版：https://www.cnbeta.com.tw/articles/soft/1393197.htm手机版：https://m.cnbeta.com.tw/view/1393197.htm

美国白宫要求各联邦机构设置首席人工智能官，公开披露 AI 使用情况

美国白宫要求各联邦机构设置首席人工智能官，公开披露AI使用情况美国联邦行政管理与预算局3月28日发布指令，要求各联邦机构监测、评估和测试人工智能对公众的影响，减轻算法歧视的风险，并为公众提供政府如何使用AI的透明度。各机构还必须建立AI治理委员会，设立首席人工智能官一职，实行风险评估并设定运营和治理指标。白宫表示，“各机构在以可能影响美国人权利或安全的方式使用AI时，将被要求在12月1日前实施具体的保障措施”，包括详细的公开披露，以便公众知道政府如何以及何时使用AI。（界面新闻）

人工智能网络武器 ——

人工智能网络武器——这本书将提高人们对武器系统中使用的、在全球网络军备竞赛中囤积的人工智能网络武器的新挑战的认识。它以现实生活中的事件为基础，全面分析了网络攻防形势，分析了网络武器如何从作为恶作剧的恶意代码演变为致命的大规模杀伤性武器，揭示了网络进攻冲突的规模，探讨了网络战的变异，警告了网络军备竞赛的升级和人工智能（AI）在军事上的使用。该书提供了一个专家洞察力，以说明目前和未来对进化的网络武器、人工智能和机器人的恶意和破坏性使用，重点是对CBRNe和关键基础设施的网络威胁。该书强调了国际社会在监管网络环境方面的努力，回顾了领先的网络大国的最佳做法和他们有争议的方法，建议负责任的国家行为。它还提出了信息安全和网络防御解决方案，并为选定的相互冲突的网络术语提供了定义；从技术角度以及法律、伦理和政治角度审查了网络工具与军事武器合并的破坏性潜力。鉴于解决网络威胁的书籍很多，发现一种新的威胁类型是很难的。然而，这本书成功地做到了这一点：通过人工智能增强的网络攻击。用作者的话说，我们目前正在经历一场人工智能军备竞赛。由人工智能驱动的机器之间的网络战争正在到来。这本书后面的章节引用了中国、美国、欧洲、和亚洲其他地方正在进行的实际人工智能项目——包括预算和任务说明。虽然这项研究具有深刻的社会和文化影响，但作者重点关注到的是网络安全的后果。最终，它认为，对人工智能攻击的最好防御是更强大的人工智能形式。如您所知，IYP的立场意味着我们将对这一结论表示怀疑。但不论如何，这本书很重要。冷战有4个主要战场：信息战、网络战、空间战、谍战；除了空间战，IYP的内容已经充分涉及了其他3个主要战场。这本书是对第2个战场的分析。