研究：人工智能模型缺乏透明度 或将加大监管难度

研究：人工智能模型缺乏透明度 或将加大监管难度 一项研究显示，目前主要的人工智能模型缺乏透明度，或将加大政策制定者拟定有效政策来监管这项科技的难度。 法新社报道，这项由哈佛大学研究员于星期三（10月18日）发表的研究，旨在指导政策制定者对人工智能科技方面进行监管。研究人员设计了一个“基础模型透明指数”，并对10家主要的人工智能公司进行了排名。 得分最高的是由脸书母公司Meta Platforms于今年7月推出的人工智能模型“Llama 2”，得分为54%。 推出人工智能聊天机器人ChatGPT的美国人工智能公司OpenAI，今年3月发布的大型语言数据库模型GPT-4排名第三，得分为48%。 谷歌推出的“PaLM 2”以40%排在第五位，略高于亚马逊支持的人工智能初创公司Anthropic推出的“Claude 2”人工智能模型（36%）。 斯坦福大学基金会模型研究中心的研究员博马萨尼说，这些公司应该努力争取80%到100%的得分。 研究人员指出，“较低的透明度将使政策制定者更难以制定有意义的政策，以对这一强大的科技进行监管。” 此外，这也让其他企业更难得知自己的应用是否可依赖这项科技，同时让学术界更难以进行研究，消费者也更难以了解模型的局限性。“如果没有透明度，监管机构甚至无法提出正确的问题，更别说是在这些地方采取行动了。” 这项研究发现，没有一家公司提供有多少用户依赖使用人工智能模型的信息，或它们使用的地理位置信息。此外，多数人工智能公司都不披露其模型中使用了多少收版权保护的资料。

。来自的消息，现任和前任员工表示，此举使微软没有一个专门的团队来确保产品符合其「人工智能原则」。 尽管如此，微软仍然有一个「AI

。 来自的消息，现任和前任员工表示，此举使微软没有一个专门的团队来确保产品符合其「人工智能原则」。 尽管如此，微软仍然有一个「AI 责任」办公室，该办公室负责制定规则和原则，以管理公司的 AI 倡议。 微软在一份声明中表示：「微软致力于安全、负责任地开发人工智能产品和体验，并通过投资于人员、程序和合作伙伴来实现这一点。 在过去的六年中，我们增加了产品团队和负责任的人工智能办公室的人数，他们与我们在微软的所有人一起负责确保我们把人工智能原则付诸实践。 我们感谢道德和社会在帮助我们负责任的人工智能旅程上所做的开创性工作。」 但员工表示，道德和社会团队在确保公司的负责任人工智能原则实际反映在产品设计中发挥了关键作用。 以往该团队会教员工如何有社会责任及道德责任地使用 AI，但现在只余下一些守则，没有人能教员工如何应用。 最近，该团队一直在努力确定微软在其整套产品中采用 OpenAI 技术带来的风险。 该团队在 2020 年达到最大规模，当时包括约 30 名员工，包括工程师、设计师和哲学家。 去年10月，该团队因重组而裁减至约7人。 而今年3月6日，整个团队正式被解散。 他们的工作往往是向公司说「不」或「放慢一些」，但公司往往不想听到这些话。 标签: #ChatGPT #微软 #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

OpenAI、谷歌、微软和 Anthropic 组成联合机构来监督安全的“前沿人工智能”开发

OpenAI、谷歌、微软和 Anthropic 组成联合机构来监督安全的“前沿人工智能”开发 四家卓越的人工智能参与者正在联合组建一个新的行业机构，旨在确保所谓的“前沿人工智能”模型的“安全和负责任的开发”。 为了回应日益增长的监管呼声，ChatGPT的开发者OpenAI、微软、谷歌和Anthropic宣布成立Frontier Model Forum，这个联盟将借助成员公司的专业知识来开发技术评估和基准，并促进最佳实践和标准。 Forum的核心目标是：1、推进人工智能安全研究，促进前沿模型的负责任开发，降低风险，实现独立的标准化能力和安全评估。2、确定负责任地开发和部署前沿模型的最佳实践，帮助公众理解该技术的性质、能力、限制和影响。3、与决策者、学者、民间社会和公司合作，共享有关信任和安全风险的知识。4、支持开发有助于应对社会最大挑战的应用程序，如应对气候变化、早期癌症检测和预防以及打击网络威胁。 尽管 Frontier Model Forum 目前只有四名成员，但该团体表示正在向新成员开放。符合资格的组织应该开发和部署前沿人工智能模型，并展示对“前沿模型安全”有着坚定的承诺。

英国政府正在制定提高人工智能训练数据透明度的规则

英国政府正在制定提高人工智能训练数据透明度的规则 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 《金融时报》在对弗雷泽的采访中发现了这一计划。虽然她概述了总体计划，但她不愿透露有关权利人如何检查其材料是否被人工智能模型使用的细节。知情人士透露，政府将在秋季大选前提出建议。这将使利益相关者能够对提案做出回应，并在提案被通过成为法律之前提出建议或修改意见。据《金融时报》报道，欧盟正在根据其人工智能法案制定类似的规则。根据该法案，人工智能开发者将需要提供一份足够详细的培训内容概要，并实施相关政策，以确保他们的操作符合欧盟版权法的规定。像 OpenAI 这样的人工智能公司已经预料到政府会怎么做，并已与数据提供商达成协议。最近几周，OpenAI 宣布与Reddit、Stack Overflow 和《金融时报》合作，帮助其训练模型。此举将受到声称其权利受到侵犯的权利人的欢迎，然而，对于这些人工智能模型的用户来说，由于知识差距，此举可能会导致质量下降。人工智能公司声称，他们可以根据合理使用规则使用这些数据，因为他们对数据的使用是变革性的。最终，我们将不得不等待法院和政治家们的跟进，看看舆论到底是站在权利人一边，还是站在人工智能开发者一边。 ... PC版： 手机版：

斯坦福大学发布人工智能状况报告

斯坦福大学发布人工智能状况报告 虽然现在人工智能发展之快，让任何与人工智能有关的报告一发布就面临过期的风险，但是我们仍然能从这份 386 页的中得到一些有用的信息： ·在过去的十年里，人工智能的发展已经从学术界主导翻转到了工业界主导，而且这没有改变的迹象。 ·在传统基准上测试模型正变得困难，这里可能需要一种新的模式。 ·人工智能训练和使用的能源占用正在变得相当大，但我们还没有看到它如何在其他地方增加效率。 ·与人工智能相关的技能和工作岗位正在增加，但没有你想象的那么快。 ·政策制定者们正在努力编写一个明确的人工智能法案，如果有的话，这是一个愚蠢的差事。 ·投资已经暂时停滞，但这是在过去十年的天文数字般的增长之后。 ·超过 70% 的中国、沙特和印度受访者认为人工智能的好处多于坏处。美国人呢？35%。来源 ，， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

IBM称赞欧洲议会批准《人工智能法案》

IBM称赞欧洲议会批准《人工智能法案》 虽然必须开展重要工作以确保该法案成功实施，但 IBM 相信该法规将促进对人工智能系统的信任和信心，同时促进创新和竞争力。"我赞扬欧盟在通过全面、智能的人工智能立法方面发挥的领导作用。基于风险的方法与 IBM 对人工智能道德实践的承诺相一致，将有助于建立开放、可信的人工智能生态系统，"IBM 副总裁兼首席隐私与信任官 Christina Montgomery 说。"IBM随时准备提供我们的技术和专业知识（包括我们的watsonx.governance产品），帮助我们的客户和其他利益相关者遵守欧盟人工智能法案和全球即将出台的立法，以便我们都能释放负责任人工智能的巨大潜力。"欲了解更多有关IBM应对AI监管的信息，请访问： 成为全球首部全面的AI监管法规 ... PC版： 手机版：