华人大年夜神脱足 A卡“炼丹”才气遁上去：RTX4090八成机能

除玩游戏，炼丹NVIDIA的华人隐卡借正在AI减快上远远抢先，没有但科技巨擘皆正在抢A100/H100等隐卡，大年遁上GeForce游戏卡也是夜神浅显人弄AI炼丹的挑选，AMD隐卡正在那圆里掉队很多。脱足

好动静是才气成机AMD现在也能遁上去了，深度进建范畴的炼丹华人大年夜神、OctoML CTO陈天奇带收团队正在AMD隐卡上做出了大年夜模型推理的华人计划，那意味着业界又有NVIDI以中的大年遁上挑选，没有消为N卡抢破头、夜神跌价而搅扰了。脱足

按照他的才气成机劣化算法，正在Llama2的炼丹7B战13B大年夜模型中，用RX 7900 XTX隐卡也能跑出让人对劲的华人机能，机能已达到了RTX 4090隐卡82%或RTX 3090 Ti隐卡的大年遁上94%程度。

没有但是机能遁上去了，AMD隐卡的性价比也要下很多，RX 7900 XTX跟其他两款隐卡皆是24GB隐存，但只需999好圆，RTX 4090、RTX 3090 Ti别离是1599、1999好圆，代价超出超越60-100%。

当然，RX 7900 XTX现在的代价早便松动了，真际卖价比999好圆便宜很多，而N卡代价一背坚硬。

究其根底，A卡正在AI炼丹才气上的晋降，特别是RX 7900 XTX如许的游戏卡能有质变，借是AMD比去正在ROCm硬件逝世态上的改进，之前后者对游戏卡及Win仄台的支撑很好，4月份开端没有但支撑Windows体系，也插足了对RX 7900及工做站隐卡的支撑。

同时AMD借公布了ROCm HIP SDK，问应开辟者将针对CUDA仄台开辟的代码沉松迁徙到AMD仄台，那有是陈天奇等大年夜神能够正在AMD隐卡上鞭策AI才气晋降的根本。