NVIDIA 加速 Meta Llama 3 的推理
NVIDIA宣布对其所有平台进行优化,以加速最新一代大语言模型MetaLlama3。开源模型与NVIDIA加速计算相结合,使开发人员、研究人员和企业能够在各种应用程序中负责任地进行创新。接受过NVIDIAAI培训的Meta工程师在包含24,576个NVIDIAH100TensorCoreGPU(与RoCE和NVIDIAQuantum-2InfiniBand网络连接)的计算机集群上训练Llama3。在NVIDIA的支持下,Meta为其旗舰模型调整了网络、软件和模型架构。为了进一步推进生成式AI的最先进水平,Meta最近透露了将其基础设施扩展到350,000个H100GPU的计划。开发人员可以通过浏览器在ai.nvidia.com上试用Llama3。标签:#NVIDIA#Meta#AI频道:@GodlyNews1投稿:@GodlyNewsBot
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人