Meta 首席执行官扎克伯格成立委员会 为人工智能产品提供建议

Meta 首席执行官扎克伯格成立委员会 为人工智能产品提供建议 Meta Platforms Inc.首席执行官马克·扎克伯格成立了一个新的产品咨询委员会，该委员会将定期与 Meta 的管理团队会面，并为公司的人工智能和技术进步提供指导。Meta 顾问小组将由四位高管组成：Stripe Inc. 首席执行官兼联合创始人Patrick Collison 、前 GitHub 首席执行官Nat Friedman 、Shopify Inc. 首席执行官Tobi Lütke以及投资者兼前微软公司高管Charlie Songhurst。Meta发言人证实这些人均不会获得报酬。扎克伯格称：“我尊重他们以及他们在各自领域取得的成就，我很感激他们愿意在我们利用 AI 和元宇宙迎接新机遇的重要时刻与 Meta 分享他们的观点。”

美国国土安全部任命人工智能安全顾问委员会

美国国土安全部任命人工智能安全顾问委员会 美国国土安全部 (DHS) 周五宣布成立一个顾问委员会，他们将就人工智能在16种关键基础设施中的作用向政府提供建议，包括能源、公用事业、交通、国防、信息技术、食品和农业以及金融服务等重要服务。该委员会将为交通运输部门、管道和电网运营商、互联网服务提供商和其他部门制定建议，以“预防和准备应对与人工智能相关的对影响国家或经济安全、公共健康或安全的关键服务的中断”。 该委员会由22名成员组成，其中的科技领袖包括 OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官 Dario Amodei、英伟达首席执行官黄仁勋、IBM 首席执行官 Arvind Krishna、Adobe 首席执行官 Shantanu Narayen、微软首席执行官 Satya Nadella、Alphabet 首席执行官 Sundar Pichai 、思科首席执行官 Chuck Robbins、AWS 首席执行官 Adam Selipsky 、 ​​AMD 首席执行官苏姿丰以及斯坦福大学教授李飞飞。 但意外的是活跃在人工智能领域的 Meta 公司首席执行官马克·扎克伯格和一向公开倡导人工智能安全性的埃隆·马斯克都没有出现在委员会成员名单中。

OpenAI成立安全委员会 将开始训练新模型

OpenAI成立安全委员会 将开始训练新模型 OpenAI首席执行官山姆·奥特曼OpenAI在公司博客上表示，董事布雷特·泰勒（Bret Taylor）、亚当·德安吉洛（Adam D'Angelo）和妮可·塞利格曼（Nicole Seligman）也将加入该委员会。值得一提的是，OpenAI致力于防止人工智能失控的“超级对齐”团队刚经历了解散。5月14日，OpenAI联合创始人、首席科学家伊尔亚·苏茨克维（Ilya Sutskever）宣布离职，几小时后，超级对齐团队负责人杨·莱克（Jan Leike）也宣布离职。(作者/周文浩)更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。 ... PC版： 手机版：

OpenAI成立新的安全顾问委员会 成员全是自己人

OpenAI成立新的安全顾问委员会 成员全是自己人 根据OpenAI公司博客上的一篇文章，安全顾问委员会将在接下来90天内负责评估OpenAI得安全流程和保障措施。然后，该委员会将向OpenAI董事会汇报其发现和建议，OpenAI表示，届时将以符合安全和安保的方式公布任何已采纳的建议的更新。OpenAI周二表示，已开始训练新一代旗舰人工智能模型，以期超越目前的GPT-4大模型。“OpenAI最近开始训练其下一个前沿模型，我们预计由此产生的系统将使我们在通往通用人工智能的道路上迈上一个新台阶，”OpenAI写道。“虽然我们很自豪地构建和发布在能力和安全方面都领先的模型，但我们欢迎在这个重要时刻进行深入讨论。”除了Altman，安全顾问委员会的其他成员包括OpenAI董事会成员Bret Taylor、Adam D’Angelo和Nicole Seligman，以及首席科学家Jakub Pachocki、OpenAI早期筹备团队的Aleksander Madry、安全系统负责人Lilian Weng、安保负责人Matt Knight和“人工智能对齐”（AI Alignment）负责人John Schulman。安全不再优先 多名高层离职过去几个月，OpenAI的技术团队中有多名安全方面的高层人员离职，这些前员工中有些人对OpenAI在AI安全方面的优先级下降表示担忧。曾在OpenAI担任团队治理工作的Daniel Kokotajlo在4月辞职，因为他对OpenAI在发布越来越强大的AI时“负责任的行为”失去了信心，他在个人博客上写道。此外，OpenAI的联合创始人兼前首席科学家Ilya Sutskever在与Altman及其盟友的长期斗争后，于5月离职，据报道部分原因是Altman急于推出AI驱动的产品而牺牲了安全性能。最近，前DeepMind研究员Jan Leike此前在OpenAI负责开发ChatGPT及其前身InstructGPT的过程中，也辞去了安全研究员职务，他在一系列X平台的帖子中表示，他认为OpenAI“未走在解决AI安全和安保问题的正确轨道上”。同时，AI政策研究员Gretchen Krueger上周离开OpenAI，她也同意Leike的观点，呼吁公司提高问责制和透明度，并“更加谨慎地使用自己的技术”。媒体报道，除了Sutskever、Kokotajlo、Leike和Krueger，自去年年底以来，至少有五名OpenAI最重视安全的员工要么辞职，要么被迫离开，包括前OpenAI董事会成员Helen Toner和Tasha McCauley。两人日前在媒体撰文称，在Altman的领导下，他们相信OpenAI无法实现对自身追究责任。“根据我们的经验，OpenAI的自我治理无法承受利润激励带来的诱惑。”倡导监管？塑造监管此前有媒体报道，负责开发“超级智能”AI系统治理方法的OpenAI超级对齐（Superalignment team）团队被承诺获得公司20%的计算资源，但实际上却很少这部分资源。超级对齐团队自那以后被解散，其工作大部分被转交给“人工智能对齐”（AI Alignment）负责人John Schulman和OpenAI在12月成立的安全咨询小组。虽然OpenAI一直在倡导AI监管，但也在努力影响塑造这些监管，该公司聘请了一名内部游说者和越来越多的外部律师事务所游说者，仅在美国游说方面该公司2023年第四季度就花费了数十万美元。最近，美国国土安全部宣布Altman将成为其新成立的人工智能安全和安保委员会（Artificial Intelligence Safety and Security Board）的成员，该委员会将为“安全和可靠的AI开发和部署”提供建议，以覆盖美国的关键基础设施。而为了避免由于安全和安保委员会全部为内部高管而被认为是橡皮图章，OpenAI承诺聘请第三方“安全、安保和技术”专家来支持委员会的工作，包括网络安全专家Rob Joyce和前美国司法部官员John Carlin。然而，除了Joyce和Carlin，OpenAI尚未详细说明该外部专家组的规模和组成，也没有透露该组对委员会的影响力和权力的限制。有专家指出，OpenAI成立此类的企业监督委员会，类似于Google的高级技术外部咨询委员会，其实在实际监督方面几乎没有什么作为。 ... PC版： 手机版：

据传Meta正在开发配备摄像头的AI耳机产品

据传Meta正在开发配备摄像头的AI耳机产品 现在，根据The Information 的最新报道，Facebook 的母公司Meta 正在进入人工智能领域，比竞争对手更进一步。据报道，Meta 正在研发搭载人工智能和摄像头的耳机。值得注意的是，这些配备摄像头的人工智能耳机被内部命名为"Camerabuds"。报道称，这些耳机将利用人工智能功能和摄像头进行实时物体识别和语言翻译。报道还称，Meta 首席执行官马克-扎克伯格（Mark Zuckerberg）对这一项目表现出浓厚的兴趣，他还预见了多种设计概念，包括与"Camerabuds"有关的入耳式和耳罩式设计。此外，Meta 的领导层认为人工智能耳机是可穿戴技术可能的未来，他们相信在 Meta 之后，竞争对手的公司也会跟进。据传，该公司正在与总部位于堪萨斯州、擅长"智能"耳机的电子公司Ear Micro洽谈，探索这种人工智能耳机技术的可能性。在"Camerabuds"的开发过程中，该公司可能会面临一些技术障碍。长发可能遮挡摄像头、过热等都是 Meta 公司在产品面世前需要克服的主要问题。在可穿戴设备中使用摄像头所带来的隐私问题也是公司需要解决的。虽然 Humane 和 Rabbit 等初创公司已经开发出了人工智能设备，但它们的执行力一直备受质疑，有人说这些设备简直就是电子垃圾。 ... PC版： 手机版：

微软聘请前Meta高管以加强人工智能超级计算团队

微软聘请前Meta高管以加强人工智能超级计算团队 泰勒曾于 2009 年至 2022 年在 Meta 工作，最近的职务是公司基础设施副总裁。根据他在LinkedIn 上的个人简介，他负责人工智能、数据和隐私基础设施，并管理公司的服务器预算。泰勒还曾在 2015 年至 2017 年期间担任开放计算项目基金会主席，该组织致力于促进数据中心的开源设计。微软和 OpenAI 需要更强大的硬件来跟上快速发展的人工智能系统。上个月，《The Information》的一篇报道称，微软和 OpenAI 希望建造一台价值 1000 亿美元的超级计算机（被称为"星际之门"），为 OpenAI 的人工智能模型提供动力。(不过，微软的斯科特今天在 LinkedIn 上发文似乎对这些传言进行了辟谣，称最近的大多数猜测都是"令人捧腹的错误"）。今年 3 月，微软宣布聘请Google DeepMind 联合创始人穆斯塔法-苏莱曼（Mustafa Suleyman）担任新的消费人工智能部门首席执行官，该部门负责监管 Copilot、必应和 Edge。 ... PC版： 手机版：