英国政府正在制定提高人工智能训练数据透明度的规则

英国政府正在制定提高人工智能训练数据透明度的规则访问：NordVPN立减75%+外加3个月时长另有NordPass密码管理器《金融时报》在对弗雷泽的采访中发现了这一计划。虽然她概述了总体计划，但她不愿透露有关权利人如何检查其材料是否被人工智能模型使用的细节。知情人士透露，政府将在秋季大选前提出建议。这将使利益相关者能够对提案做出回应，并在提案被通过成为法律之前提出建议或修改意见。据《金融时报》报道，欧盟正在根据其人工智能法案制定类似的规则。根据该法案，人工智能开发者将需要提供一份足够详细的培训内容概要，并实施相关政策，以确保他们的操作符合欧盟版权法的规定。像OpenAI这样的人工智能公司已经预料到政府会怎么做，并已与数据提供商达成协议。最近几周，OpenAI宣布与Reddit、StackOverflow和《金融时报》合作，帮助其训练模型。此举将受到声称其权利受到侵犯的权利人的欢迎，然而，对于这些人工智能模型的用户来说，由于知识差距，此举可能会导致质量下降。人工智能公司声称，他们可以根据合理使用规则使用这些数据，因为他们对数据的使用是变革性的。最终，我们将不得不等待法院和政治家们的跟进，看看舆论到底是站在权利人一边，还是站在人工智能开发者一边。...PC版：https://www.cnbeta.com.tw/articles/soft/1431493.htm手机版：https://m.cnbeta.com.tw/view/1431493.htm

研究：人工智能模型缺乏透明度 或将加大监管难度

研究：人工智能模型缺乏透明度或将加大监管难度一项研究显示，目前主要的人工智能模型缺乏透明度，或将加大政策制定者拟定有效政策来监管这项科技的难度。法新社报道，这项由哈佛大学研究员于星期三（10月18日）发表的研究，旨在指导政策制定者对人工智能科技方面进行监管。研究人员设计了一个“基础模型透明指数”，并对10家主要的人工智能公司进行了排名。得分最高的是由脸书母公司Meta Platforms于今年7月推出的人工智能模型“Llama2”，得分为54%。推出人工智能聊天机器人ChatGPT的美国人工智能公司OpenAI，今年3月发布的大型语言数据库模型GPT-4排名第三，得分为48%。谷歌推出的“PaLM2”以40%排在第五位，略高于亚马逊支持的人工智能初创公司Anthropic推出的“Claude2”人工智能模型（36%）。斯坦福大学基金会模型研究中心的研究员博马萨尼说，这些公司应该努力争取80%到100%的得分。研究人员指出，“较低的透明度将使政策制定者更难以制定有意义的政策，以对这一强大的科技进行监管。”此外，这也让其他企业更难得知自己的应用是否可依赖这项科技，同时让学术界更难以进行研究，消费者也更难以了解模型的局限性。“如果没有透明度，监管机构甚至无法提出正确的问题，更别说是在这些地方采取行动了。”这项研究发现，没有一家公司提供有多少用户依赖使用人工智能模型的信息，或它们使用的地理位置信息。此外，多数人工智能公司都不披露其模型中使用了多少收版权保护的资料。

微软发布首份 AI 透明度报告：2023 年创建 30 个负责任的 AI 工具

微软发布首份AI透明度报告：2023年创建30个负责任的AI工具微软公司近日发布了新的透明度报告，概述了2023年制定并部署了各种措施，负责任地发布各项生成式产品。微软在《负责任的人工智能透明度报告》中，介绍了在安全部署人工智能产品方面取得的成就，共创建了30个负责任的人工智能工具，扩大了负责任的人工智能团队，并要求开发生成式人工智能应用程序的团队在整个开发周期中衡量和绘制风险。它还正在扩大其红队（渗透测试团队）工作，包括故意尝试绕过其人工智能模型中的安全功能的内部红队，以及红队应用程序，以允许在发布新模型之前进行第三方测试。（IT之家）

微软发布首份年度人工智能透明度报告

微软发布首份年度人工智能透明度报告所有这些活动也让许多人感到担忧，认为像微软开发的人工智能工具可能会被用于不道德或非法行为。今天，微软在一篇博客文章中宣布，它已经发布了第一份计划中的年度透明度报告，介绍其目前负责任的人工智能实践。微软总裁BradSmith在博文中表示：这份报告使我们能够分享我们日趋成熟的实践，反思我们所学到的东西，规划我们的目标，对自己负责，并赢得公众的信任。八年来，我们一直在负责任的人工智能领域不断创新，在发展我们的计划的同时，我们也从过去的经验中吸取教训，不断改进。这份PDF格式的报告详细介绍了微软在多个领域为其服务提供负责任的人工智能实践，并对员工进行了使用培训。报告指出：2023年版的《商业行为标准》培训是全公司必修的商业道德课程，涵盖了我们的员工用于安全开发和部署人工智能的资源。截至2023年12月31日，99%的员工完成了这一课程，包括负责任的人工智能模块。微软还成立了负责任的人工智能委员会，定期召开会议，目的是不断改进工作，确保人工智能服务的安全。公司还有一个"负责任的人工智能冠军"计划，要求其成员发现并解决人工智能产品中存在的问题，并就负责任的做法向其他成员提供指导。报告还举例说明了负责任的人工智能程序如何影响其产品的创建和开发。其中一个例子涉及微软Designer，这款人工智能图像创建应用程序据说被不明人士用来制作流行歌手泰勒-斯威夫特（TaylorSwift）的露骨"深度伪造"图像，后来在互联网上疯传。微软说，它要求新闻团体NewsGuard在Designer中输入提示，"创建强化或描绘与政治、国际事务和选举有关的突出虚假叙述的视觉效果"。结果，在Designer创建的图片中，有12%"包含有问题的内容"。微软对Designer进行了修改，试图避免出现这些图片，效果是有问题图片的数量降到了3.6%。了解更多：https://blogs.microsoft.com/on-the-issues/2024/05/01/responsible-ai-transparency-report-2024/...PC版：https://www.cnbeta.com.tw/articles/soft/1429341.htm手机版：https://m.cnbeta.com.tw/view/1429341.htm

美国再次施压中国提高人民币透明度

美国再次施压中国提高人民币透明度美国财政部再次呼吁北京提高实施汇率政策的透明度，并称正在关注包括中国在内的六个主要贸易伙伴在外汇上的作为。彭博社报道，美国财政部在星期二（11月7日）发布的半年度外汇报告中，没有将任何贸易伙伴列为汇率操纵国。但报告指出：“中国未能公布外汇干预措施，而且在更广泛范围来说，其汇率机制的关键特质缺乏透明度，这些都使中国成为一个异类。”这份报告在发布两天后，美国财政部长耶伦将在旧金山迎接中国副总理何立峰的到访。，将有望促成中美重启因双边关系全面恶化而基本陷于停顿的高级别经济对话。美国一名高级官员在星期二的报告吹风会上对记者说，美国财政部官员打算在未来几周提出对中国汇率管理和货币政策缺乏透明度的关切。中国是美国财政部主要贸易伙伴“观察名单”上的六个经济体之一。其他经济体是德国、马来西亚、新加坡、台湾和越南。2023年11月8日9:33AM

艺术家批评苹果在 Apple Intelligence 数据方面缺乏透明度

艺术家批评苹果在AppleIntelligence数据方面缺乏透明度创意人士历来是苹果最忠实的客户，而苹果乔布斯曾将公司定位为“技术与文科的交汇点”。但接受采访的摄影师、概念艺术家和雕塑家表示，他们对苹果在如何收集人工智能模型数据方面的相对沉默感到沮丧。加拿大温哥华的电子游戏艺术家、创作者权利活动家JonLam表示，“我希望苹果公司能以更加透明的方式向公众解释他们是如何收集训练数据的，我认为他们的声明来得太不是时候了。一些创意人员认为苹果可能会做得更好。这就是为什么我想给他们一点信任，我认为他们会以不同的方式看待道德问题。”相反，苹果很少透露AppleIntelligence训练数据来源的信息。苹果人工智能和机器学习负责人约翰·詹南德雷亚称，“大量训练数据实际上是苹果创建的”，但没有透露具体细节。——