华人大神出手 AMD显卡AI“炼丹”能力可达RTX 4090八成性能
华人大神出手AMD显卡AI“炼丹”能力可达RTX4090八成性能根据他的优化算法,在Llama2的7B和13B大模型中,用RX7900XTX显卡也能跑出让人满意的性能,性能已经达到了RTX4090显卡82%或者RTX3090Ti显卡的94%水平。不仅是性能追上来了,AMD显卡的性价比也要高得多,RX7900XTX跟其他两款显卡都是24GB显存,但只要999美元,RTX4090、RTX3090Ti分别是1599、1999元,价格高出60-100%。当然,RX7900XTX现在的价格早就松动了,实际售价比999美元便宜不少,而N卡价格一直坚挺。究其根底,A卡在AI炼丹能力上的提升,尤其是RX7900XTX这样的游戏卡能有质变,还是AMD最近在ROCm软件生态上的改进,以前后者对游戏卡及Win平台的支持很差,4月份开始不仅支持Windows系统,也加入了对RX7900及工作站显卡的支持。同时AMD还发布了ROCmHIPSDK,允许开发者将针对CUDA平台开发的代码轻松迁移到AMD平台,这有是陈天奇等大神可以在AMD显卡上推动AI能力提升的基础。...PC版:https://www.cnbeta.com.tw/articles/soft/1376689.htm手机版:https://m.cnbeta.com.tw/view/1376689.htm
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人