全球首次！阿联酋要用AI制定法律！

全球首次！阿联酋要用AI制定法律！ 据《金融时报》报道，阿联酋计划利用人工智能(AI)来协助制定新立法，审查和修订现有法律，这是该海湾国家迄今为止在推动AI应用方面最激进的一次尝试。 目前，阿联酋已在AI上投入了数十亿美元。 PS：这么懒

AI治国，要被阿联酋率先实现了？

AI治国，要被阿联酋率先实现了？ 阿联酋计划利用人工智能(AI)来协助制定新立法，审查和修订现有法律，这是该海湾国家迄今为止在 推动AI应用方面最激进的一次尝试。然而老迪拜一闻这个新闻，又是熟悉的味道……

#迪拜AI治国，要被阿联酋率先实现了？

#迪拜AI治国，要被阿联酋率先实现了？ 阿联酋计划利用人工智能(AI)来协助制定新立法，审查和修订现有法律，这是该海湾国家迄今为止在 推动AI应用方面最激进的一次尝试。然而老迪拜一闻这个新闻，又是熟悉的味道…… 订阅东南亚华人大事件 t.me/+BBYiL-g2KrJjNWFl 免费投稿爆料：@baofu821

田纳西州成为美国第一个制定法律保护音乐家免受AI侵害的州

田纳西州成为美国第一个制定法律保护音乐家免受AI侵害的州 虽然人工智能在音乐制作中的出现可以追溯到 20 世纪 50 年代，但最近生成式人工智能的突破性进展，机器人现在像数字流行歌星一样制作音乐，在行业中存在不同的意见。许多专家表示人工智能引起了法律和道德方面的担忧。去年因 ChatGPT 语言系统而流行的生成式人工智能能够自行创建包括原始声音、歌词或整首歌曲在内的内容，但艺术家经常使用更简单的人工智能来增强他们的声音。田纳西州的立法更新了田纳西州的个人权利保护法，包括“保护歌曲作者、表演者和音乐行业专业人士的声音免受人工智能滥用”，州长办公室在一份声明中表示。据州长办公室称，田纳西州的音乐产业为全州提供了超过 61617 个就业岗位，为国内生产总值贡献了 58 亿美元，并拥有 4500 多个音乐相关的经营场所。田纳西州的现行法律保护姓名、图像和肖像，但没有具体解决新的个性化生成人工智能克隆模型和服务，这些模型和服务可以模仿人类，并允许用户以他人的图像和声音制作未经授权的伪造作品。更广泛地说，人工智能的兴起也引发了许多其他担忧，包括担心它可能被用来扰乱民主进程、加剧欺诈或导致失业。欧洲在人工智能监管方面领先于美国，欧洲的立法者正在起草规则。美国民主党总统乔·拜登政府正在向立法者施压，要求对人工智能进行监管，但共和党控制众议院、民主党控制参议院的两极分化的美国国会在通过有效监管方面几乎没有取得任何进展。 ... PC版： 手机版：

专家建议在降低AI风险方面进行大量投资 并制定更严格的全球法规以防止滥用

专家建议在降低AI风险方面进行大量投资 并制定更严格的全球法规以防止滥用 这些风险包括社会和经济影响、恶意使用以及人类可能失去对自主人工智能系统的控制。他们提出了积极主动的适应性治理措施，以降低这些风险。作者敦促大型技术公司和公共资助者加大投入，至少将三分之一的预算用于评估和降低这些风险。他们还呼吁全球法律机构和政府执行防止滥用人工智能的标准。这些挑战包括以下方面：监督与诚信能力更强的人工智能系统可以更好地利用技术监督和测试方面的弱点，例如，产生虚假但令人信服的输出。鲁棒性人工智能系统在新情况下的表现难以预测。随着模型规模的扩大，鲁棒性的某些方面会得到改善，而其他方面则不会，甚至会变得更糟。可解释性和透明度人工智能决策是不透明的，规模更大、能力更强的模型解释起来更加复杂。到目前为止，我们只能通过试错来测试大型模型。我们需要学习了解它们的内部运作。包容性的人工智能发展人工智能的发展需要有方法来减少偏见，并整合其将影响的众多人群的价值观（见 SM）。应对新出现的挑战 未来的人工智能系统可能会出现我们迄今为止仅在理论或实验室实验中见过的失效模式，例如人工智能系统控制了训练奖励-提供渠道，或利用我们安全目标和关闭机制中的弱点来推进特定目标。第二类研发挑战需要取得进展，以实现有效的风险调整治理，或在安全和治理失效时减少危害。评估危险能力 随着人工智能开发人员对系统进行扩展，不可预见的能力会在没有明确编程的情况下自发出现（见 SM）。它们往往在部署后才被发现（见 SM）。我们需要严格的方法来激发和评估人工智能能力，并在训练前对其进行预测。这既包括在世界上实现宏伟目标的通用能力（如长期规划和执行），也包括基于威胁模型的特定危险能力（如社会操纵或黑客攻击）。目前对危险能力的人工智能前沿模型的评估是各种人工智能政策框架的关键，但这些评估仅限于抽查和在特定环境下的尝试性演示（见 SM）。这些评估有时可以展示危险能力，但无法可靠地排除危险能力：在测试中缺乏某些能力的人工智能系统，很可能在稍有不同的环境中或经过后期训练增强后显示出这些能力。因此，依赖于人工智能系统不跨越任何红线的决策需要很大的安全系数。改进评估工具可以降低遗漏危险能力的几率，从而允许更小的安全系数。评估人工智能调整 如果人工智能继续发展，人工智能系统最终将拥有高度危险的能力。在训练和部署这些系统之前，我们需要一些方法来评估它们使用这些能力的倾向。对于先进的人工智能系统来说，纯粹的行为评估可能会失败：与人类类似，它们可能会在评估中表现出不同的行为，伪造一致性。风险评估 我们不仅要学会评估危险的能力，还要学会评估社会背景下的风险，以及复杂的相互作用和脆弱性。对前沿人工智能系统进行严格的风险评估仍然是一个公开的挑战，因为这些系统具有广泛的能力，而且在不同的应用领域中普遍部署。复原力 不可避免的是，有些人会滥用或肆意使用人工智能。我们需要一些工具来检测和防御人工智能带来的威胁，如大规模影响行动、生物风险和网络攻击。然而，随着人工智能系统的能力越来越强，它们最终将能够规避人类制造的防御系统。为了实现更强大的基于人工智能的防御，我们首先需要学习如何使人工智能系统安全并保持一致。"为了引导人工智能取得积极成果，远离灾难，我们需要调整方向。有一条负责任的道路只要我们有智慧去走它，"作者写道。它们突显了全球科技公司竞相开发通用人工智能系统的情况，这些系统在许多关键领域的能力可能与人类不相上下，甚至超过人类。然而，这种快速进步也带来了社会规模的风险，可能会加剧社会不公、破坏社会稳定，并导致大规模网络犯罪、自动化战争、定制化大规模操纵和无孔不入的监控。重点关注的问题之一是，自主人工智能系统有可能失去控制，这将使人类的干预变得无效。专家认为，人类尚未做好充分准备来应对这些潜在的人工智能风险。他们指出，与提高人工智能能力的努力相比，在确保安全和合乎道德地开发和部署这些技术方面投入的资源少之又少。为了弥补这一差距，作者概述了人工智能研究、开发和治理的当务之急。DOI: 10.1126/science.adn0117 ... PC版： 手机版：

美国限制AI出口立法进程又进一步

美国限制AI出口立法进程又进一步 法案的提议者之一、众议院议员迈克尔•麦考尔恩（Michael McCauln）将人工智能技术比作曼哈顿（核弹）计划，该法案的主要目的是防止美国顶级人工智能公司“无意中”推动中国的技术进步，并保证美国继续保持世界领先超级大国地位。该法案尚须通过美国众议院和参议院的投票，才能提交给总统签署。《互联网法律评论》曾在该法案拟定阶段发布评论《警惕美国正拟制定AI大模型出口管制法案》，初步分析了中美AI发展的差距及该法案可能产生的影响。本文将进一步解读该法案的内容及其美国科技游说的背景。一ENFORCE 法案内容框架ENFORCE 法案主要包含了四个条款，核心内容可概括为以下两点：1、对人工智能、人工智能系统、法案所“涵盖的人工智能系统”以及模型权重进行定义；2、对总统管制人工智能及其他特定新兴和基础技术的权力进行扩大和补充。ENFORCE 法案修订了2018 年的美国《出口管制改革法案》，以防止外国对手利用美国AI和其他支持技术。特别是，它将为美国出口、再出口或在国内转移某些物项建立许可要求。此外，在设计、开发、生产、使用和操作方面可能支持这些物项的其他活动也受许可要求的约束。ENFORCE 法案涵盖的物项包括人工智能系统以及对国家安全至关重要的特定新兴和基础技术。二模糊的“涵盖的人工智能系统”定义ENFORCE 法案目前并没有明确将“AI开源模型”作为一个单独的类别进行保护或限制。只是从功用上对“涵盖的人工智能系统”进行了一定的概括，不过，这样的“新定义”基本上涵盖了“任何人工智能系统、软件或硬件”，只要这些物项满足以下条件：侵蚀美国国家安全或外交政策的方式；降低制造大规模毁灭性武器的障碍；可能促进网络攻击。此外，法案通过后，须在一年内更新“涵盖的人工智能系统”的定义。这种“模糊且不确定”的定义方式，据众议院议员迈克尔•麦考尔恩（Michael McCauln）解释，目的是为执行监管的美国商务部工业与安全局（BIS ）提供灵活性制定对封闭人工智能系统适当的出口控制，同时不会扼杀美国的创新或影响开源模型的开发。三警惕美国科技巨头的人工智能游说：让立法者转而担心中国OpenAI 推出ChatGPT后引发美国舆论对人工智能新一波讨论热潮。美国国内最初的讨论关注点主要担心AI开发由慈善和非政府组织所主导，警告人工智能技术的长期危险，因而推动对先进人工智能制定严格的安全规定。但是近几个月以来，人工智能行业的科技公司和投资者投入的数千万美元游说资金作用渐显，成功地将人工智能辩论焦点转向了别处：人工智能与其说是一种生存威胁，不如说是一个重要的商业机会；严格的安全规则可能会限制美国的创新，并将使美国的人工智能优势拱手让给中国。这一转向在某种程度上推动了ENFORCE 法案的提出，以及迅速在美国众议院外交事务委员会获得通过。因为，美国科技公司试图让立法者相信，人工智能的先进性对美国来说并不可怕，但是中国的人工智能超过美国，则对美国来说才是巨大且真实的“灾难”。美国国会很多议员已经放弃了他们曾经对这项技术的快速发展感到恐惧的语气，并公开质疑先进的人工智能模型是否真的那么危险。例如，加州民主党众议员泰德•刘（Ted Lieu）在2023年还宣称自己对尖端人工智能的前沿模型“感到震惊”，并呼吁制定法规来防止出现几种可怕的情况；但如今，已出任担任众议院人工智能工作组联合主席的泰德•刘表示，他不相信国会必须打击先进人工智能。此外，与之并行的“中国AI发展才是威胁”的观点正在获得越来越多的支持人工智能工作组四名议员之一、参议员迈克•朗兹（Mike Rounds）表示，不希望先进人工智能的发展发生在美国之外，所以我们不会试图限制美国境内的发展。 ... PC版： 手机版：