NVIDIA为基于Windows的RTX电脑推出了生成性AI功能

NVIDIA为基于Windows的RTX电脑推出了生成性AI功能NVIDIA声称,RTXGPU"为AI推理和生成性AI模型提供了高达1400个TensorTFLOPS,其运行速度比竞争对手的设备快5倍",这得益于TensorCores,即NVIDIA用于AI计算的专用硬件。在微软Build2023大会上,NVIDIA与微软合作,宣布为从事生成性人工智能模型的开发人员提供Windows的增强功能。这些增强功能包括更好地支持WindowsSubsystemforLinux(WSL),Windows笔记本电脑的电源效率,以及更好地支持使用微软的Olive工具链部署AI模型。此外,开发人员现在可以获得一个完整的RTX加速的AI开发堆栈,在Windows11上运行,这将有助于他们开发、训练和部署AI模型。NVIDIA指出,目前有超过400个RTX人工智能加速的应用程序和游戏发布,还有更多即将发布。该公司还提到,新的人工智能开发堆栈将使开发人员获得"超过1亿台RTXPC和工作站的安装基础,这些PC和工作站已针对人工智能进行了优化"。微软负责Windows芯片和系统集成的企业副总裁PavanDavuluri在会议上这样介绍:AI将是未来几年Windows客户创新的最大驱动力。通过与英伟达在硬件和软件优化方面的合作,我们正在为开发者提供一种变革性的、高性能的、易于部署的体验。NVIDIA正在与戴尔、华硕和惠普等其他OEM厂商进一步合作,为下一代笔记本电脑带来优化的RTX硬件。该公司声称,即将推出的Max-Q系列在提高GPU性能的同时降低了功耗,这将有利于RTX笔记本电脑。该公司正在进一步努力发布定期的驱动程序更新,为人工智能模型优化其硬件。例如,NVIDIA声称,最近的GPU驱动更新将稳定扩散性能提高了2倍。NVIDIA在Computex上度过了相当忙碌的一天,因为该公司发布了多个产品,其中包括ACE,一个类似于游戏中NPC的ChatGPT模型,以及与联发科的合作,将人工智能引入汽车。自从最近的季度收益推动公司市值接近1万亿美元以来,该公司一直在人工智能的浪潮中发展。...PC版:https://www.cnbeta.com.tw/articles/soft/1362337.htm手机版:https://m.cnbeta.com.tw/view/1362337.htm

相关推荐

封面图片

戴尔和NVIDIA推出Project Helix 为企业提供生成性人工智能

戴尔和NVIDIA推出ProjectHelix为企业提供生成性人工智能然而,当这些公司不完全确定他们如何开始利用生成性人工智能时,就会出现一个重大问题。对该技术如何运作以及如何实施有深入了解的专家是稀缺的,更不用说是非常昂贵的。认识到这种脱节,戴尔科技公司和英伟达公司共同推出了名为ProjectHelix的产品,专门用于简化生成式人工智能的入门过程。ProjectHelix专注于创建全栈式的、企业内部的生成性人工智能解决方案,使企业能够使用自己的数据建立新的或定制现有的生成性人工智能基础模型。企业开始使用生成性人工智能服务时出现的一个问题是内部知识产权泄漏的风险。事实上,包括三星和苹果在内的几家公司已经实施了政策,阻止他们的员工为工作目的使用ChatGPT等工具,因为担心与这个问题有关。这种担忧的部分原因是,几乎所有早期的生成性人工智能迭代只能在大规模的云端数据中心运行,其中许多收集了输入其提示输入的数据。然而,在支撑生成式人工智能应用的基础模型令人难以置信的快速发展中,这些担忧有很多已经得到解决。值得注意的是,现在有各种各样的开源模型可从市场上获得,如HuggingFace。许多这些开源模型可以在更合理的计算要求下非常有效地运行,例如在一个适当装备的内部数据中心。此外,一些大的科技公司已经开始改变关于他们的模型可以在哪里运行的规则,并且正在创建他们的模型的较小版本,为现场使用进行优化。此外,我们已经看到一些公司,包括NVIDIA开始提供专门为企业应用设计的模型。NVIDIA的发展在多个层面上都很有趣。该公司与生成性人工智能密切相关,主要是因为其硬件。NVIDIA的GPU芯片为目前云计算中的大部分生成性人工智能应用和服务提供动力。在该公司3月份的最后一次GTC会议上,他们公布了一整套生成性人工智能相关的软件,包括特定行业的软件基础模型和以企业为中心的开发工具,特别是其NeMo大型语言模型(LLM)框架和用于过滤不需要的主题的NeMoGuardrails,令许多人感到惊讶。这些模型被优化为在NVIDIA硬件上运行。Helix项目代表了戴尔和NVIDIA的合作努力,组装了一系列戴尔PowerEdge服务器系统。这些系统包括NVIDIAH100GPU和NVIDIA的BluefieldDPU(数据处理单元,用于AI工作负载所需的服务器之间的高速互连)系列,并与NVIDIA的企业AI软件捆绑。此外,戴尔从其PowerScale和ECS企业对象存储产品线中提供了几种不同的存储选项,为人工智能工作负载进行了优化。其结果是一个全面的解决方案,使企业能够开始建立或定制生成性人工智能模型。潜在客户可以使用NVIDIA的一个基础模型选项,或者如果他们愿意,可以从HuggingFace(或其他技术供应商的解决方案)中选择一个开源模型并开始这个过程。捆绑的NVIDIA软件允许导入一个组织的现有数据语料库--从文件、客户服务聊天记录、社交媒体帖子等等--然后用它来训练一个新模型或定制一个现有模型。训练过程完成后还包括配套的运行推理和利用新训练的模型创建新的应用程序所需的工具。戴尔的捆绑服务还提供了一个蓝图,帮助企业在创建/定制这些模型和建立这些工具的过程中进行导航,同时还提供了一系列技术支持服务。最重要的是,由于这项工作是在企业实体内部完成的,ProjectHelix可以帮助减轻许多公司--甚至那些已经开始使用生成性人工智能工具的公司--所担心的知识产权泄漏问题。ProjectHelix的另一个显著好处是,它允许公司以更独特和个性化的方式利用生成性人工智能。虽然目前可用的通用工具无疑可以帮助处理某些类型的应用和环境,但大多数公司认识到,生成性人工智能的真正竞争优势在于定制。人们对将公司自己的数据纳入这些工具有相当大的兴趣,但对于究竟如何做到这一点,也有很多困惑。将生成性人工智能的"简易工具包"放在一起,并不意味着许多组织在利用其数据和技术来创建他们所需的解决方案时不会面临挑战。关键是要记住,生成性人工智能背后的概念仍然非常新,它是一项极其复杂的技术。然而,通过捆绑必要的硬件和软件,这些硬件和软件已经过预先测试,可以一起工作,同时还有关于如何引导这个过程的信息,ProjectHelix似乎是一个有吸引力的选择,对那些渴望--或觉得有竞争性--潜入这个令人兴奋的新领域的组织来说。...PC版:https://www.cnbeta.com.tw/articles/soft/1361299.htm手机版:https://m.cnbeta.com.tw/view/1361299.htm

封面图片

Nvidia推出了 RTX 500 和 1000 Ada Generation 笔记本电脑GPU,用于移动 AI 处理

Nvidia推出了RTX500和1000AdaGeneration笔记本电脑GPU,用于移动AI处理这些高端GPU使用AdaLovelace架构。它们旨在为内容创作者、研究人员和工程师提供人工智能加速和图形性能,即使他们在使用便携式设备工作时也是如此。随着生成式人工智能和混合工作设置成为各个行业不可或缺的一部分,对强大的移动解决方案的需求猛增。RTX500和1000GPU正是针对这一需求,为应对各种挑战的专业人士提供生成式AI和图形性能的结合。RTX500GPU脱颖而出,与仅使用CPU的相比,稳定扩散等模型的生成式AI性能提高了14倍,AI辅助照片编辑速度提高了3倍,3D渲染的图形性能提高了10倍配置。全新NvidiaRTX500和1000Ada一代笔记本电脑GPU将于今年春天在戴尔、惠普、联想和MSI等全球制造合作伙伴的移动工作站中上市。线索:@ZaiHuabot投稿:@TNSubmbot频道:@TestFlightCN

封面图片

NVIDIA与AMD将为游戏笔记本电脑带来微软Copilot Plus人工智能功能

NVIDIA与AMD将为游戏笔记本电脑带来微软CopilotPlus人工智能功能"华硕和微星新发布的RTXAIPC笔记本电脑最高配备GeForceRTX4070GPU和高能效片上系统,具备Windows11AIPC功能,"NVIDIA在一篇博文中表示。NVIDIA在一份简报中证实,这些笔记本电脑将配备AMD最新的StrixCPU。AMD还没有正式详细介绍其AMDStrix笔记本电脑CPU,但毫无疑问,它将在今天晚些时候的主题演讲中公布。NVIDIA还暗示,首批搭载AMD处理器的CopilotPlusPC可能不会在发布时获得微软的人工智能功能。配备CopilotPlus功能的NVIDIARTXAI笔记本电脑即将上市。NVIDIA在一篇博文中表示:"这些Windows11AIPC在可用时将获得Copilot+PC体验的免费更新。这表明微软可能还没准备好在AMD芯片上推出Recall和其他AI驱动的Windows功能,或者说6月18日推出的搭载Arm高通处理器的Windows硬件可能会有一段时间的独占期。"NVIDIA也在为在笔记本电脑上执行人工智能驱动的任务而进行着某种程度的努力,微软正在推动将人工智能模型的计算安排到NPU上,而NVIDIA则打算在PC上的人工智能战场上大显身手。NVIDIA正在大力宣传其"RTXAI笔记本电脑"品牌,指出其GPU比NPU更有能力运行更繁重的AI工作负载。RTX人工智能工具包将于6月份推出NVIDIA会在6月份推出RTXAI工具包,其中包括用于模型定制、优化和部署的工具和SDK。这些工具将采用类似Meta的Llama2模型,并对其进行优化,使其运行时对VRAM的要求大大降低,性能更高。NVIDIA还与微软就Windows11中内置的底层人工智能模型展开合作。NVIDIA表示:"此次合作将为应用开发人员提供便捷的应用编程接口(API)访问GPU加速的小语言模型(SLM),从而实现由WindowsCopilotRuntime驱动的在设备上运行的检索增强生成(RAG)功能。"微软在上个月的Build大会上发布了WindowsCopilotRuntime,而NVIDIA表示,其使用RTXGPU加速AI模型的工作将于今年晚些时候发布开发者预览版。微软的WindowsCopilotRuntime旨在让开发者能够轻松地将人工智能功能添加到他们的应用中,同时依靠NPU硬件或NVIDIA的GPU来加速这些功能。由于NPU目前的性能约为40TOPS,而NVIDIA的PCGPU可处理超过1000TOPS的AI加速,因此开发人员需要考虑的性能差异显然很大。NPU专为笔记本电脑中运行的较小的模型和针对重要的高能效而设计,但GPU可以很好地处理较大的模型,在电池寿命无关紧要的PC台式机中具有更高的性能。观察PC上的这场人工智能大战将会非常有趣,尤其是微软掌握着在Windows中为NVIDIA、AMD、英特尔、高通及其众多OEM合作伙伴原生将带来这些AI体验的钥匙。...PC版:https://www.cnbeta.com.tw/articles/soft/1433295.htm手机版:https://m.cnbeta.com.tw/view/1433295.htm

封面图片

Windows Copilot AI 最终将在 GeForce RTX GPU 上运行

WindowsCopilotAI最终将在GeForceRTXGPU上运行开发人员在创建利用生成式人工智能(GenerativeAI)的Windows应用程序时,将很快获得通过WindowsCopilotRuntime运行GPU加速的小语言模型的API。微软与英伟达的合作将允许Copilot和相关的生成式人工智能应用在NPU和RTXGPU上运行,从而有可能为更多PC带来本地处理的人工智能工作负载。人工智能PC可以说是今年Computex的核心,英特尔、AMD和高通公司(Qualcomm)即将推出的处理器的展示更是其中的亮点。英特尔的LunarLake、AMD的StrixPoint和高通的SnapdragonX等新芯片阵容的主要卖点之一,就是它们的NPU如何在不完全依赖云服务器的情况下处理生成式AI应用。NPU是微软和英特尔定义的新AIPC规格的核心。预计苹果也将在下周的WWDC上提出类似的计划。可以预见的是,英伟达更希望其GPU成为客户端人工智能的流行平台。在最近的一次内部演示中,该公司声称入门级和中端RTX4000显卡处理人工智能的速度比CPU设计公司最新推出的NPU快好几倍。NVIDIA的最大优势在于,虽然竞争对手尚未推出新的AIPC或说服客户购买,但RTXGPU已经安装在全球数百万台PC系统中。不过,"RTXAIPC"的应用范围目前仅限于视频游戏中的DLSS、流媒体音频增强和NVIDIA聊天机器人等功能。让Copilot能够利用这种硬件可能会扩大使用案例的范围,并将微软的全套AI助手带到更多的PC上。NVIDIA最近还发布了一款基于AI的游戏助手,与微软之前透露的Copilot助手类似。...PC版:https://www.cnbeta.com.tw/articles/soft/1433617.htm手机版:https://m.cnbeta.com.tw/view/1433617.htm

封面图片

联想与 NVIDIA 合作推出混合 AI 解决方案 提供量身定制的生成式 AI

联想与NVIDIA合作推出混合AI解决方案提供量身定制的生成式AI联想集团与NVIDIA宣布合作推出全新混合人工智能解决方案,帮助企业和云提供商获得在人工智能时代成功所需的关键的加速计算能力,将人工智能从概念变为现实。混合解决方案旨在用户最需要的地点和时间里,无论是口袋还是云端,高效地将人工智能带入客户数据中。此举将推进联想集团AIforAll的愿景,并为下一代大规模生成式人工智能的创新架构迅速进入市场提供了支持。

封面图片

英伟达推出GeForce RTX Super显卡,适用于人工智能方面的个人电脑(PC),游戏显卡性能大幅提升,加入生成式AI能力

NVIDIA今天宣布了GeForceRTX™40SUPER系列GPU家族—包括GeForceRTX4080SUPER、GeForceRTX4070TiSUPER和GeForceRTX4070SUPER—它们为最新游戏提供了超强动力,并构成了以AI为核心的个人电脑的基础。这款最新的基于NVIDIAAdaLovelace架构的GPU提供高达52shaderTFLOPS、121RTTFLOPS和836AITOPS的性能,以加速游戏和创作——并提供开发新的娱乐世界和体验所需的动力。GeForceRTX4070SUPER起售价为599美元。PC游戏玩家追求最佳的视觉质量,AI驱动的NVIDIA深度学习超级采样(DLSS)超分辨率、帧生成和光线重建与光线追踪相结合,在《暗黑破坏神IV》、《PaxDei》和《地平线:禁忌之西》等游戏中提供令人惊叹的世界——只需点击一下即可体验。有了DLSS,八个像素中有七个可以由AI生成,加速全光线追踪速度高达4倍,同时提供更好的图像质量。新的GeForceRTXSUPERGPU是在个人电脑上体验人工智能的最佳方式。专用的AITensor核心提供高达836AITOPS的性能,为游戏、创作和日常生产力中的人工智能提供变革性能力。建立在RTXGPU之上的丰富软件堆栈进一步加速了人工智能的应用NVIDIATensorRT™是用于高性能深度学习推理的软件,包括一个深度学习推理优化器和运行时,为推理应用提供低延迟和高吞吐量。TensorRT-LLMforWindows是一个开源库,它加速了最新大型语言模型的推理性能。在AI工作负载中,GeForceRTX4080SUPER生成视频的速度比RTX3080Ti快1.5倍以上,生成图像的速度快1.7倍以上。GeForceRTX4080SUPER能够以4K分辨率全面支持光线追踪游戏。其速度比没有使用DLSS帧生成技术的GeForceRTX3080Ti快1.4倍,RTX4080SUPER在传统光栅化方面提供了惊人的性能。凭借836AITOPS,DLSS帧生成技术为性能提供了额外的提升,使RTX4080SUPER的速度是RTX3080Ti的两倍。RTX4080SUPER拥有更多的核心和更快的内存,以获得性能优势。它将从1月31日起上市,起售价为999美元。RTX4070TiSUPER是理想的GPU,能够在1440p超高帧率下全面提升游戏体验,甚至达到4K。与RTX4070Ti相比,它拥有更多的核心,扩大了帧缓冲至16GB,并且具有256位的内存总线,显著增加了内存带宽至672GB/秒。它比RTX3070Ti快1.6倍,使用DLSS3技术时快2.5倍。GeForceRTX4070TiSUPER将于1月24日起发售,售价为799美元。RTX4070SUPER搭载的核心比RTX4070多出20%,使其在功耗仅为一小部分的情况下速度超过RTX3090。配合DLSS3技术,其领先优势扩大到1.5倍。该产品将于1月17日起以599美元的价格开始发售。标签:#英伟达#显卡#Nvidia频道:@GodlyNews1投稿:@GodlyNewsBot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人