美国宣布成立新NIST人工智能公共工作组 应对生成式人工智能风险

美国宣布成立新NIST人工智能公共工作组应对生成式人工智能风险短期目标为将工作组作为手机指导意见的工具，来完善NIST人工智能风险管理框架（AIRMF）来支持人工智能技术的开发。人工智能公共工作组的中期目标为支持NIST在人工智能相关的而是、评估和测量方面的工作。长远目标为在NIST人工智能风险管理框架的基础上，帮助解决生成式人工智能相关的机遇和挑战，以确保在人工智能应用程序开发和使用之前、之间和之后规避和管理风险。目前面对生成式人工智能，全球各个国家或地区反应不一，根据英国《金融时报》报道，欧洲议会正在准备对人工智能的使用实施约束措施并制定相关法案。...PC版：https://www.cnbeta.com.tw/articles/soft/1367111.htm手机版：https://m.cnbeta.com.tw/view/1367111.htm

亚马逊将在线上提供生成式人工智能免费课程

亚马逊将在线上提供生成式人工智能免费课程亚马逊表示，已有2100万人通过其课程接受了AWS云计算技能培训，希望到2025年有200万人使用其人工智能课程。亚马逊表示，人工智能岗位对人才的需求正在不断增加，企业愿意为拥有相关技能的人才支付更高的薪水，但这些课程也是为了推广亚马逊自己的人工智能产品。亚马逊将提供"非技术性"学习，向人们介绍生成式人工智能的基础、围绕人工智能的项目规划以及如何使用亚马逊的CodeWhisperer人工智能代码生成器。其余的课程将向人们介绍AWS机器学习和语言模型以及BedrockAI应用程序制造商，这将有助于亚马逊的人工智能技术在微软/OpenAI和Google等大公司中脱颖而出。对亚马逊免费课程感兴趣的人可以访问AWSEducate网站上的初始生成式人工智能培训和CodeWhisperer入门：https://aws.amazon.com/cn/education/awseducate/其余的免费课程，包括学习使用亚马逊的Transcribe语音到文本生成器，都在AWSSkillBuilder网站上：https://explore.skillbuilder.aws/learn/course/external/view/elearning/17090/amazon-transcribe-getting-started...PC版：https://www.cnbeta.com.tw/articles/soft/1398485.htm手机版：https://m.cnbeta.com.tw/view/1398485.htm

IBM推出Granite生成式人工智能功能和模型

IBM推出Granite生成式人工智能功能和模型IBM几乎没有提供有关Granite的详细信息，因此无法将这些模型与竞争对手的LLM（包括IBM自己的LLM）进行比较。但该公司声称，它将在2022年第三季度推出Granite系列模型之前，披露用于训练该模型的数据，以及用于过滤和处理这些数据的步骤。希望该公司能做到这一点。在Watsonx.ai（Watsonx的组件，可让客户在部署后测试、部署和监控模型）的其他部分，IBM正在推出TuningStudio，这是一款允许用户根据自己的数据定制生成式人工智能模型的工具。利用TuningStudio，IBMWatsonx的客户可以对模型进行微调，以适应新任务，只需100到1000个示例。一旦用户指定了任务并提供了所需数据格式的标注示例，他们就可以通过IBM云的API部署模型。Watsonx.ai即将推出的还有表格数据（关系数据库中的行和列集合）合成数据生成器。IBM在一份新闻稿中称，通过从自定义数据模式和内部数据集生成合成数据，公司可以使用生成器提取洞察力，用于人工智能模型的训练和微调，同时"降低风险"。目前还不清楚"降低风险"的确切含义，因为使用合成数据训练人工智能存在一系列隐患。IBM还将在Watsonx.data中推出新的生成式人工智能功能，该公司的数据存储允许用户访问数据，同时应用查询引擎、治理、自动化以及与现有数据库和工具的集成。从2023年第四季度开始，作为技术预览的一部分，客户将能够通过一个类似聊天机器人的自助服务工具，为人工智能"发现、增强、可视化和完善"数据。IBM对具体细节再次语焉不详。但能够想象的是一种类似于ChatGPT的体验，尽管它以数据可视化和转换为重点。IBM表示，大约在同一时间（2023年第四季度），Watsonx.data将获得矢量数据库功能，以支持检索增强生成（RAG）。RAG是一个人工智能框架，通过将模型建立在外部知识源的基础上，提高LLM生成的响应质量，这对IBM的企业客户来说显然非常有用。在其他重大新闻方面，IBM正在进行Watsonx.governance的技术预览，这是一个工具包--用该公司相当含糊的话说--提供了保护客户隐私、检测模型偏差和漂移以及帮助组织满足道德标准的机制。从下周开始，IBM将推出智能修复（IntelligentRemediation）功能，该公司表示，该功能将利用生成式人工智能模型来帮助IT团队总结事件并提出工作流程建议，以帮助实施解决方案。IBM产品高级副总裁DineshNirmal在一份新闻稿中说："正如watsonx平台在推出后短短几个月内不断发展所证明的那样，我们将在整个人工智能生命周期内为客户提供支持。作为转型合作伙伴，IBM正在与客户合作，帮助他们以安全、可信的方式扩展人工智能--从帮助他们建立数据战略的基础要素，到为他们的特定业务用例调整模型，再到帮助他们管理模型。"当然，IBM也面临着压力，需要证明自己能够在拥挤的人工智能领域有所作为。在公司第二财季，IBM公布的营收不及分析师预期，原因是公司基础设施业务部门的增长放缓幅度超过预期。营收缩减至154.8亿美元，同比下降0.4%，略低于分析师一致预期的第二季度销售额155.8亿美元。在财报电话会议上，IBM首席执行官阿尔文德-克里希纳（ArvindKrishna）反复强调了人工智能对IBM未来增长的重要性，并断言企业正在以健康的速度签约使用IBM的混合云和人工智能技术，包括Watsonx。克里希纳说，截至7月Watsonx开始推出时，已有150多家企业客户在使用Watsonx，其中包括三星和花旗。"我们将继续满足客户寻求值得信赖的企业人工智能解决方案的需求，我们对最近推出的Watsonx人工智能平台的反响尤为兴奋。最后，我们对今年全年的收入和自由现金流增长预期仍然充满信心，"克里希纳在财报电话会议上说。...PC版：https://www.cnbeta.com.tw/articles/soft/1382305.htm手机版：https://m.cnbeta.com.tw/view/1382305.htm

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

人工智能大模型行业应用创新平台发布

人工智能大模型行业应用创新平台发布在2024中关村论坛年会期间，中关村人工智能大模型行业应用创新平台正式发布。该平台旨在解决大模型在行业应用中的共性问题，推动通用人工智能技术创新场景应用。该平台将建立“人工智能大模型的数据要素可信流通与失控防护、人工智能大模型的数据安全治理、大模型驱动的数据智能体、企业应用大模型化的无缝升级创新”的“四位一体”平台体系，旨在为大模型在各行业的应用提供坚实的技术支持和创新环境。

谷歌 DeepMind 推出了人工智能生成图像的水印工具

谷歌DeepMind推出了人工智能生成图像的水印工具谷歌DeepMind推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。该工具名为SynthID，最初仅供Google人工智能图像生成器Imagen的用户使用，该生成器托管在GoogleCloud的机器学习平台Vertex上。用户将能够使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。ViaHuaHua投稿：@ZaiHuaBot频道：@TestFlightCN