报道称微软等科技公司的AI工程师正在经历职业倦怠

报道称微软等科技公司的AI工程师正在经历职业倦怠 CNBC报道称，它收到了许多大型科技企业的人工智能工程师发来的信息，称他们的上司为了发布这些产品逼得太紧。微软 ，一位不愿透露姓名的工程师说，公司正在进行一场"人工智能老鼠赛跑"。他还声称，微软 ，优先考虑的是发布人工智能产品的速度，而不是道德和安全问题。微软没有回应 CNBC 的置评请求。本周早些时候，该公司发布了首份人工智能责任与透明度报告，称已成立了一个负责任的人工智能委员会，该委员会定期召开会议，努力提高人工智能服务的安全系数。CNBC 的同一篇报道还引用了亚马逊一位不愿透露姓名的人工智能工程师的话。这名团队成员称，他们本打算和朋友们享受一个周末，却接到了一个通知，要他们在周末为一个人工智能项目工作。为了完成任务，这名工程师在周末加班加点，结果到后来项目却被关闭了。这位团队成员也赞同微软员工的观点，即亚马逊试图更快地发布新的人工智能产品，而不是关注准确性和测试。亚马逊发言人在接受采访时表示，该公司"专注于构建和部署有用、可靠和安全的生成式人工智能创新，以重塑和提升客户体验"。该发言人没有否认这位不愿透露姓名的亚马逊工程师的报道，只是说："用一名员工的轶事来描述亚马逊所有从事人工智能工作的员工的经历是不准确和误导性的。" ... PC版： 手机版：

领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺 英国和韩国政府宣布，领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的 OpenAI 和马斯克的 xAI 以及中国开发商智谱AI，这些公司将发布框架，概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕，两国政府在峰会开幕前表示，这些公司承诺，如果无法缓解严重风险，他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前，以及在训练之前和期间。”

亚马逊宣布推出“Bedrock”AI 平台以对抗 OpenAI

亚马逊宣布推出“Bedrock”AI 平台以对抗 OpenAI 亚马逊周四宣布，它正在为企业发布一个名为Amazon Bedrock的人工智能平台，它将在生成人工智能领域与 OpenAI 和其他公司的企业产品展开竞争。 Bedrock 是一套生成式人工智能工具，可以帮助亚马逊网络服务客户在亚马逊数据服务器上运行业务的企业构建聊天机器人、生成和总结文本，以及根据提示制作和分类图像。 Bedrock 用户可以通过从一系列被称为“基础模型”的机器学习模型中进行选择来执行特定任务，例如，内容营销经理可以使用 Bedrock 通过为其提供数据来为新的手袋系列创建有针对性的广告活动，这样它就可以为每个产品生成产品社交媒体帖子、展示广告。 Amazon 的生成式 AI 工具包的预览目前仅限于特定的 AWS 客户。据亚马逊称，到目前为止，优步和纽约时报等公司使用的人工智能文档生成公司 Coda 正在使用 Bedrock 来扩展其业务运营。

裁员与招聘并行：美国科技业今年已大举裁员2万人 却为AI领域疯狂

裁员与招聘并行：美国科技业今年已大举裁员2万人 却为AI领域疯狂 韦德布什公司董事总经理Dan Ives在采访中称，“随着这场人工智能技术在整个科技界继续进行，大型科技公司在某些领域将继续裁员，而人工智能领域的招聘狂潮将是前所未有的。”加大投资AI领域根据最新的消息，微软将在其视频游戏部门裁员1900人，其中包括去年底刚以690亿美元完成收购的动视暴雪。微软游戏事业主管Phil Spencer写道，此次裁员人数约占微软2.2万名游戏部门员工的8%。Spencer指出，“我们一起确定了优先事项，明确了重叠的领域，并确保我们在最佳增长机会上保持一致。”本月早些时候，谷歌削减了数百个工作岗位以提高效率，并专注于其“最重要的产品优先事项”，以赶上竞争对手微软。微软先前将ChatGPT整合到必应搜索中，这促使谷歌在其搜索引擎中增添人工智能功能。上周，谷歌首席执行官桑达尔·皮查伊在1月17日发给员工的一份备忘录中写道，随着公司继续将投资转向人工智能，今年将有更多裁员。他还补充道，管理层正准备分享其2024年的人工智能目标，“现实情况是，要为这项投资创造能力，我们必须做出艰难的选择。”一直在大举投资人工智能的亚马逊本月早些时候也进行了一波裁员。亚马逊在其视频流媒体等部门解雇了数百名员工，此外亚马逊旗下Twitch直播平台和Audible有声读物部门也削减了员工数量。亚马逊Prime及影视工作室业务负责人Mike Hopkins表示，“公司已发现可在部分领域削减或停止投资的机会，同时寻求在影响最大的一些内容和产品项目上增加支出。”值得一提的是，这家电子商务巨头的云服务业务亚马逊网络服务公司（AWS）在1月19日表示，到2027年，它可能会在日本投入2.26万亿日元（合152.4亿美元），用于扩展云计算基础设施，这是人工智能服务的关键。企业软件巨头SAP周二（1月23日）宣布一项耗资20亿欧元的重组计划，涉及的岗位数量高达8000个，占总员工数的约7%。该公司希望借助大规模重组，更好地专注于人工智能驱动的业务领域的增长。该公司承诺，将投资超过10亿美元，通过其企业资本公司Sapphire Ventures在人工智能驱动的技术初创公司中开辟新的领域。此外，电商平台eBay宣布裁员9%，社交平台Discord表示将裁员17%，游戏服务商Unity Software宣布将裁员25%，语言学习应用程序Duolingo则称解雇了10%的正式职工。 ... PC版： 手机版：

OpenAI发表研究论文 介绍了一种逆向工程AI模型工作原理的方法

OpenAI发表研究论文 介绍了一种逆向工程AI模型工作原理的方法 在论文中，该公司的研究人员提出了一种窥探为 ChatGPT 提供动力的人工智能模型内部的方法。他们设计了一种方法来识别模型如何存储某些概念包括那些可能导致人工智能系统行为失常的概念。虽然这项研究使 OpenAI 在控制人工智能方面的工作更加引人注目，但也凸显了该公司最近的动荡。新研究由 OpenAI最近解散的"超对齐"团队完成，该团队致力于研究技术的长期风险。前小组的共同负责人伊利亚-苏茨克沃（Ilya Sutskever）和扬-莱克（Jan Leike）均已离开OpenAI，并被列为共同作者。苏茨克沃是OpenAI的创始人之一，曾任首席科学家，去年11月，董事会成员投票解雇了首席执行官山姆-奥特曼（Sam Altman），引发了几天的混乱，最终奥特曼重返领导岗位。ChatGPT 由一个名为 GPT 的大型语言模型系列提供支持，该模型基于一种被称为人工神经网络的机器学习方法。这些数学网络通过分析示例数据显示出了学习有用任务的强大能力，但它们的工作原理无法像传统计算机程序那样被轻易检查。人工神经网络中各层"神经元"之间复杂的相互作用，使得逆向分析 ChatGPT 这样的系统为何会得出特定的反应极具挑战性。这项工作背后的研究人员在一篇随附的博文中写道："与大多数人类创造物不同，我们并不真正了解神经网络的内部运作。一些著名的人工智能研究人员认为，包括 ChatGPT 在内的最强大的人工智能模型或许可以用来设计生化武器和协调网络攻击。一个更长期的担忧是，人工智能模型可能会选择隐藏信息或以有害的方式行事，以实现它们的目标。"OpenAI 的这篇新论文概述了一种技术，该技术借助额外的机器学习模型，识别代表机器学习系统内部特定概念的模式，从而稍稍降低了神秘感。创新的关键在于通过识别概念来完善用于窥探系统内部的网络，从而提高效率。OpenAI 通过在其最大的人工智能模型之一 GPT-4 中识别代表概念的模式证明了这种方法。该公司发布了与可解释性工作相关的代码，以及一个可视化工具，用于查看不同句子中的单词如何激活 GPT-4 和另一个模型中的概念，包括亵渎和色情内容。了解一个模型是如何表现某些概念的，这将有助于减少与不受欢迎的行为相关的概念，使人工智能系统保持正常运行。它还可以调整人工智能系统，使其偏向于某些主题或想法。尽管 LLM 无法被轻易解读，但越来越多的研究表明，它们可以被穿透，从而揭示出有用的信息。由亚马逊和Google支持的 OpenAI 竞争对手 Anthropic 上个月也发表了类似的人工智能可解释性研究成果。为了演示如何调整人工智能系统的行为，该公司的研究人员创造了一个痴迷于旧金山金门大桥的聊天机器人。有时，只需让人工只能机器人解释其推理过程，就能获得深刻的见解。东北大学从事人工智能可解释性研究的教授大卫-鲍（David Bau）在谈到 OpenAI 的新研究时说："这是令人兴奋的进展。"作为一个领域，我们需要学习如何更好地理解和审视这些大型模型。"鲍说，OpenAI 团队的主要创新在于展示了一种配置小型神经网络的更有效方法，该网络可用于理解大型神经网络的组成部分。但他也指出，这项技术还需要改进，以使其更加可靠。要利用这些方法创造出完全可以理解的解释，还有很多工作要做。"鲍是美国政府资助的一项名为"国家深度推理结构"（National Deep Inference Fabric）的工作的一部分，这项工作将向学术研究人员提供云计算资源，以便他们也能探索特别强大的人工智能模型。他说："我们需要想办法让科学家即使不在这些大公司工作，也能从事这项工作。"OpenAI 的研究人员在论文中承认，要改进他们的方法还需要进一步的工作，但他们也表示，希望这种方法能带来控制人工智能模型的实用方法。他们写道："我们希望有一天，可解释性能为我们提供推理模型安全性和鲁棒性的新方法，并通过为强大的人工智能模型的行为提供强有力的保证，大大增加我们对它们的信任。"阅读论文全文： ... PC版： 手机版：

OpenAI、微软、谷歌等科技巨头本周将讨论制定AI使用标准

OpenAI、微软、谷歌等科技巨头本周将讨论制定AI使用标准 4月11日消息，本周三，人工智能开发领域顶尖企业的高管和员工将开会讨论制定关于如何使用人工智能技术的标准。 据外媒报道，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face和Anthropic等公司的代表预计将出席周三举行的此次会议。这次会议由顶级投资公司SV Angel召集，与会代表计划讨论如何以最负责任的态度继续开发人工智能。 几周前，以马斯克为代表的多位科技行业大佬联名发表了一封公开信，呼吁OpenAI和其他公司暂停开发人工智能技术6个月的时间，在此期间制定并落实安全协议。 与此同时，美国议员们认为有必要对人工智能技术进行监管，但目前尚未通过任何重大立法。