Deset godina razvoja donelo je AMD-u zreliju softversku platformu, jednostavnije pokretanje AI aplikacija i alate koji smanjuju napor potreban za prelazak sa NVIDIA infrastrukture.
AMD je letos predstavio ROCm 10, obeležavajući deceniju razvoja svoje otvorene softverske razvojne platforme. Istovremeno je opšte dostupan postao ROCm.AI, skup alata za razvoj, izvršavanje i optimizaciju AI aplikacija. Za timove sa postojećim CUDA kodom, ova kombinacija pojačava argument za prelazak: očuvanje dosadašnjeg rada sada prati jednostavniji put do upotrebljivog AMD sistema.
Mogućnost prenošenja koda postoji godinama. ADMIN Magazine je još 2019. opisao migraciju simulatora HACC, u kojoj je 95 odsto koda ostalo neizmenjeno ili bilo automatski prevedeno. Do 2024, TensorWave je prelazak već razmatrao kroz dostupnost AMD akceleratora u oblaku, PyTorch i TensorFlow podršku i gotove softverske pakete. Posmatrani zajedno, ovi izvori pokazuju kako je oko alata za portovanje izraslo šire AI okruženje.
Prvi razlog za migraciju zato je očuvanje ulaganja u softver. HIP pruža programski sloj blizak CUDA modelu, dok HIPIFY automatski prevodi mnoge pozive i konstrukcije. Kod se zatim kompajlira za ciljni hardver. Time se otvara mogućnost održavanja zajedničke programske osnove za AMD i NVIDIA platforme, uz potrebna prilagođavanja. AMD upravo taj pristup ističe u svom blogu o prelasku sa CUDA na ROCm.
Za standardne PyTorch aplikacije prelazak može biti još jednostavniji. ROCm izdanje namerno zadržava torch.cuda interfejs, pa postojeći kod često zahteva malo izmena, ponekad nijednu. Tim tako može da nastavi da koristi poznato razvojno okruženje dok se izvršavanje prebacuje na AMD GPU.
Drugi razlog je manje vremena potrošenog na sastavljanje infrastrukture. ROCm 10 donosi validirane vLLM i SGLang kontejnere, Python pakete i modularni Core SDK, koji omogućava instaliranje potrebnih komponenti. AMD Primus objedinjuje pripremu i praćenje treninga, dok unapređenja komunikacione biblioteke RCCL podržavaju rad na više akceleratora i serverskih čvorova. Praktičan cilj je brži prelazak od dostupnog hardvera do produktivnog rada.
Treći razlog je lakša optimizacija postojećeg sistema. ROCm.AI kroz AMD Skills unosi proverene postupke u razvojne asistente koje programeri već koriste. Hyperloom analizira izvršavanje aplikacije, pronalazi uska grla, primenjuje ciljane izmene i proverava rezultate. Time AMD nastoji da smanji količinu specijalističkog rada potrebnog za bolje iskorišćenje GPU-a.
Potencijal softverske optimizacije ilustruju AMD-ova interna merenja: na sistemu sa osam MI355X akceleratora, razvojno izdanje ROCm.AI zasnovano na optimizovanom ROCm-u 7.2.2 ostvarilo je prosečno 3,3 puta veću propusnost pri izvršavanju modela i 2,4 puta pri treningu u odnosu na ROCm 7.0. Rezultati obuhvataju po tri odabrana modela; predstavljaju konkretna AMD merenja, a ne poređenje sa NVIDIA platformom ili univerzalno ubrzanje svake aplikacije. Sopstveni CUDA kerneli i biblioteke bez ROCm zamene i dalje mogu zahtevati dodatni rad. Za podržane aplikacije, međutim, poslovni argument je jasan: sačuvati kod, skratiti pripremu okruženja i dobiti širi izbor hardvera. Kada provera sopstvenog modela potvrdi željene performanse i troškove, činjenica da je razvoj započeo na CUDA platformi prestaje da bude prepreka prelasku na AMD.
