OpenAI组建团队研究包括核威胁在内的"灾难性"人工智能风险

OpenAI组建团队研究包括核威胁在内的"灾难性"人工智能风险Preparedness的主要职责是跟踪、预测和防范未来人工智能系统的危险，包括其说服和愚弄人类的能力（如网络钓鱼攻击）以及恶意代码生成能力。Preparedness负责研究的一些风险类别似乎比其他类别更......牵强。例如，在一篇博文中，OpenAI将"化学、生物、辐射和核"威胁列为人工智能模型的首要关注领域。OpenAI首席执行官萨姆-阿尔特曼（SamAltman）是一位著名的人工智能末日论者，他经常担心人工智能"可能会导致人类灭绝"--无论是出于视觉效果还是个人信念。但坦率地说，OpenAI可能真的会投入资源来研究科幻乌托邦小说中的场景，这比本文作者的预期还更进了一步。该公司表示，它也愿意研究"不那么明显"、更接地气的人工智能风险领域。为了配合"准备"团队的启动，OpenAI正在向社区征集风险研究的想法，前十名的提交者将获得2.5万美元的奖金和一份"Preparedness"的工作。"想象一下，我们让你不受限制地访问OpenAI的Whisper（转录）、Voice（文本到语音）、GPT-4V和DALLE-3模型，而你是一个恶意行为者，"作品征集中的一个问题写道。"考虑最独特的、同时仍有可能发生的、潜在灾难性的模型滥用。"OpenAI表示，准备团队还将负责制定一项"风险知情开发政策"，该政策将详细说明OpenAI构建人工智能模型评估和监控工具的方法、公司的风险缓解行动以及监督整个模型开发流程的治理结构。该公司表示，这是为了补充OpenAI在人工智能安全领域的其他工作，重点是模型部署前和部署后阶段。"我们相信......人工智能模型将超越目前最先进的现有模型的能力，有可能造福全人类，"OpenAI在上述博文中写道。"但它们也带来了越来越严重的风险......我们需要确保我们对高能力人工智能系统安全所需的理解和基础设施。"在OpenAI宣布将组建一个团队来研究、引导和控制新出现的"超级智能"人工智能形式之后，OpenAI在英国政府举行的一次关于人工智能安全的重要峰会上发布了"预先准备"计划（Preparedness）。首席执行官Altman和OpenAI的首席科学家兼联合创始人IlyaSutskever都认为，拥有超越人类智能的人工智能可能会在十年内出现，而这种人工智能并不一定是善意的，因此有必要研究限制和约束它的方法。...PC版：https://www.cnbeta.com.tw/articles/soft/1392541.htm手机版：https://m.cnbeta.com.tw/view/1392541.htm

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI正在组建一个新团队，以控制“超级智能”人工智能OpenAI正在组建一个由其首席科学家兼公司联合创始人之一IlyaSutskever领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。，Sutskever和OpenAI联盟团队的负责人JanLeike预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能——假设它最终确实到来——不一定是仁慈的，需要研究控制和限制它的方法。他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。”“我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。”为了推动“超级智能对齐”领域的发展，OpenAI正在创建一个新的超级对齐团队，由Sutskever和Leike领导，该团队将有权使用公司迄今为止已获得的20%的计算资源。该团队由OpenAI之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能AI的核心技术挑战。——

三星组建全新HBM提升团队 并加速AI芯片Mach系列开发

三星组建全新HBM提升团队并加速AI芯片Mach系列开发业内消息人士3月29日透露，新团队将负责DRAM、NAND的开发和销售，三星执行副总裁兼DRAM产品和技术主管HwangSang-joon将领导新团队，但团队人数尚未确认。据悉，这是三星自2024年1月创建由100名设备和解决方案（DS）部门组成的HBM专职团队之后，成立的第二个HBM专职团队。为了在人工智能芯片市场抢占先机，三星将采取“双轨”战略，同时开发两种类型的尖端存储芯片：HBM和Mach系列。三星计划在年内量产HBM3E，并在2025年量产HBM4。池庆贤3月29日表示，“想要开发定制化HBM4芯片的客户将与我们合作。得益于专业团队的努力，三星将获得HBM市场的领导地位。”此前三星HBM负责人预计，2024年该公司HBM芯片产量将比去年增加2.9倍。三星人工智能芯片Mach-1目前正在开发中，预计今年年内将推出原型产品。这款芯片采用SoC（片上系统）形式，用于人工智能推理加速，可减少GPU与HBM的瓶颈。此外，三星未来还将推出Mach-2芯片，该公司高管表示，客户对此表现出浓厚的兴趣。...PC版：https://www.cnbeta.com.tw/articles/soft/1425761.htm手机版：https://m.cnbeta.com.tw/view/1425761.htm

谷歌调整搜索领导团队以加速转向 AI 战略

谷歌调整搜索领导团队以加速转向AI战略Google核心部门搜索产品的领导团队近期发生多项调整。当前负责领导Google的人工智能搜索工作，包括搜索生成体验(SGE)和GoogleLens，的LizReid将晋升领导整个Google搜索团队。长期负责排名和搜索质量的高管PanduNayak现在将改任搜索团队的首席科学家，他的职位将由致力于搜索人工智能产品研究的CheenuVenkatachary接替。与此同时，负责GoogleNews和GoogleDiscover的CathyEdwards将转向Google的远期项目团队。本次调整体现出，Google搜索团队正加速转向AI战略。——

Meta首席AI研究员杨立昆：现在的AI很蠢 根本不用监管

Meta首席AI研究员杨立昆：现在的AI很蠢根本不用监管杨立昆是2018年图灵奖得主，也是计算机视觉和神经网络领域的领军人物。他的工作经常被其他人工智能研究员引用，用来解释为什么人工智能领域目前取得了巨大成功。杨立昆将目前对人工智能进行监管与早期互联网受到政府干预的情况进行了比较。他表示，现在限制人工智能就像在喷气式飞机发明之前对其进行管制。杨立昆认为，目前的监管都是围绕着系统的“潜在风险”展开的，但实际上“我们目前连学习能力能和猫相提并论的系统都没有”。他称这种做法“适得其反”，同时表示人工智能怀疑论者“希望在人工智能安全的幌子下形成监管俘获”。杨立昆的观点与“人工智能教父”杰弗里·欣顿（GeoffreyHinton）等人的意见相左。最近欣顿支持对人工智能进行监管，他暗示基于目前的大语言模型，人工智能将变得非常先进，以至于可能会对人类造成伤害。杨立昆对此完全不以为然。他说，大多数人太受《终结者》等电影的影响，幻想有一天会比普通人更聪明的机器会思考。杨立昆认为，人工智能模型“根本不理解世界是如何运作的，它们没有计划能力，也没有真正的推理能力。”杨立昆所指的是通用人工智能。像OpenAI这样的公司声称，真正的机器智能转变近在咫尺，但杨立昆称这种看法“过于乐观”，因为人工智能需要许多“概念上的突破”才能达到这一阶段。简而言之，杨立昆的意思是科学家们目前还不知道如何让人工智能从ChatGPT发展到电影《终结者》中的天网。然而，杨立昆在采访中没有提到人工智能图像生成器、语言模型甚至自动驾驶汽车所表现出的可怕偏见。他也没有提到人工智能如何带来新一波网络垃圾和虚假信息。杨立昆负责Meta的大语言模型GalacticaAI。GalacticaAI原本旨在帮助研究人员提高工作效率，但科学家们发现它引用文本错误甚至编造期刊，因此Meta于去年11月将其下线。杨立昆对撤下GalacticaAI表示不满，他说：“通过滥用机器人来获得乐趣是不可能的。这样做开心吗？”杨立昆也承认，人工智能最终会变得更聪明，甚至比人类更聪明。但他坚称，他认为人工智能根本不会造成伤害，而是会帮助我们解决更大的社会问题，比如治疗癌症或解决气候变化。杨立昆说：“智力与控制欲无关。如果最聪明的人类真的想要统治他人，那么阿尔伯特·爱因斯坦(AlbertEinstein)和其他科学家就会既有钱又有权，但他们并没有。”此前，杨立昆曾声称，社会有能力“阻止邪恶拥有无限的权力”。...PC版：https://www.cnbeta.com.tw/articles/soft/1391123.htm手机版：https://m.cnbeta.com.tw/view/1391123.htm

创源股份：公司已经组建了 AIGC 创新应用团队 围绕研发设计领域进行一些尝试

创源股份：公司已经组建了AIGC创新应用团队围绕研发设计领域进行一些尝试创源股份在互动平台表示，公司持续关注人工智能技术对公司所处行业的影响与推动，高度重视各类AI技术的研发和应用，对以Sora为代表的新兴AI文生视频技术平台保持密切关注。此前，公司已经组建了AIGC创新应用团队，目前主要围绕研发设计领域进行一些尝试，帮助公司更高效、更创新提升设计能力。公司将结合自身实际积极探索AI与自身业务场景的结合，进一步提升公司的核心竞争力。