AMD首批Instinct MI300X已开始交付

AMD首批InstinctMI300X已开始交付AMD首批用于AI、HPC的InstinctMI300XGPU已发货。LaminiAI首席执行官SharonZhou表示，公司已收到InstinctMI300X，将使用该GPU运行大模型。与InstinctMI300A不同，InstinctMI300X缺少x86CPU内核，但拥有更多CDNA3小芯片，搭载192GBHBM3内存，因此计算性能更高。根据AMD数据，InstinctMI300X性能优于英伟达的H10080GB。投稿：@TNSubmbot频道：@TestFlightCN

调查显示AI专业人士考虑从英伟达转投AMD 对Instinct MI300X充满信心

调查显示AI专业人士考虑从英伟达转投AMD对InstinctMI300X充满信心事实上，TensorWave自己也采购了AMDMI300X。AMDInstinct系列产品其实已经发展了很多代，但无论性能还是市场接受度都远逊于对手。这一代的MI300X实现了性能飞跃，相比H100内存容量多2.4倍、带宽高1.6倍、FP8、FP16浮点性能都高1.3倍，FlashAttention2、Llama2(700亿参数)1v1对比测试领先20％，Bloom(1760亿参数)、Llama2(700亿参数)8v8测试领先60％、40％。AMD还打造了MI300A，首次在数据中心同时集成了CPU、GPU，但目前尚未铺开。AMD苏姿丰此前预测，AMDAI芯片2024年的收入将达到35亿美元，大大高于此前预计的20亿美元。当然，AMD在开发支持、生态建设方面还存在较大的差距，仍需努力追赶。...PC版：https://www.cnbeta.com.tw/articles/soft/1423256.htm手机版：https://m.cnbeta.com.tw/view/1423256.htm

AMD MI300X在大模型推理上可以与Nvidia H100相媲美

AMDMI300X在大模型推理上可以与NvidiaH100相媲美RunPod在Mixtral7x8B上运行了一系列基准测试，并将AMD的性能与Nvidia的H100进行了比较总结：-MI300X在小批量和大批量（1、2、4和256、512、1024）下的表现均优于H100SXM。-MI300X具有较低的第一个令牌延迟，尽管差异很小（36.89ms对55.24ms）。-无论批量大小，MI300X通常都比H100更具成本效益。同时由于MI300X拥有更大的显存，因此可以运行Mixtral7x8B等单个H100无法容纳的大型模型ViaDeemo关注频道@ZaiHuaPd频道爆料@ZaiHuabot

AMD苏姿丰拜会台积电等 MI300X即将开始量产

AMD苏姿丰拜会台积电等MI300X即将开始量产如今AI显卡市场炙手可热，但NVIDIA一家独大，占了90%的份额，A100、H100两款显卡售价超过10万到25万元依然供不应求，国内特供的A800、H800更是被加价抢购，AMD自然也不会错过这个市场。6月底AMD正式发布了InstinctMI300A及InstinctMI300X两款AI加速显卡，其中前者是CPU+GPU首次合体的产品，后者则是纯GPU，主要用于AI、HPC高性能计算等领域。MI300X就是一款对标NVIDIA最强显卡H100的产品，拥有最多8个XCD核心，304组CU单元，8组HBM3核心，显存容量提升到了192GB，相当于NVIDIAH10080GB的足足2.4倍，同时HBM内存带宽高达5.2TB/s，InfinityFabric总线带宽也有896GB/s，同样远超NVIDIAH100。MI300X的192GB显存不论性能还是容量都是史无前例的，尤其适合AI运算，单卡即可支持400亿参数大模型。售价方面，MI300X没有公布官方建议价，但对标H100意味着售价接近，只会略便宜一些，猜测也在20万元以上。...PC版：https://www.cnbeta.com.tw/articles/soft/1371711.htm手机版：https://m.cnbeta.com.tw/view/1371711.htm

NVIDIA被传遭微软两次砍单 AMD最强AI加速卡虎口夺食

NVIDIA被传遭微软两次砍单AMD最强AI加速卡虎口夺食AMDMI300系列包括GPU加速器MI300X、CPU+GPU融合加速器MI300A，后者是独家技术，性能都非常突出，部分指标已经远远超过NVIDIA竞品，而且按照惯例价格更低。AMD的发布会上，除了Google、亚马逊两大巨头之外，微软、甲骨文、Meta(Facebook)、戴尔、惠普、联想、超威等都纷纷站台支持，相关产品也第一时间出炉。AMDMI300X已经出货，MI300A也投入量产，预计能满足行业对于AI大模型训练推理的需求。NVIDIA目前在AI加速市场上握有90％的份额，但产品价格与成本越来越高，让很多大企业也吃不消，都在寻求替代解决方案，AMDMI300系列无疑是目前的最佳选择，除了ROCm开发生态相比CUDA还差太多，迁移是个麻烦。AMD现在预计，2023年数据中心AI加速器市场规模可达450亿美元，年复合增长率超过70％，2027年可超4000亿美元，比此前预计的300亿美元、50％、1500亿美元大大增加。在这个市场上，AMD即便只拿下10％的份额，也是每年几百亿美元的收入。不过也有观点认为，微软连续砍单是在等待NVIDIA明年将要推出的下一代芯片B100，会升级3nm工艺、Blackwell架构，性能可达目前H200的两倍以上。...PC版：https://www.cnbeta.com.tw/articles/soft/1403895.htm手机版：https://m.cnbeta.com.tw/view/1403895.htm

AMD MI300X 正式出货交付客户

AMDMI300X正式出货交付客户https://technews.tw/2024/01/23/amd-mi300x-officially-shipped-to-customers/根据AMD官方性能测试，MI300X的表现优于市面上已有的NvidiaH10080GB，甚至有可能对即将上市的H200141GB构成威胁。目前，Meta、微软等巨头客户已采购了大量AMDInstinctMI300系列产品，LaminiAI则是首家公开使用MI300X的公司。