ROCm 7 platforma poboljšava AI performanse do 3,5 puta

AMD je predstavio sedmu verziju svog ROCm (Radeon open compute) softverskog paketa otvorenog koda za ubrzano računanje koji znatno poboljšava performanse AI inferencije na postojećem hardveru u usporedbi s ROCm 6, kao i dodaje podršku za distribuirana opterećenja te se proširuje na Windowse i Radeon GPU-ove.

ROCm 7 pruža snažan skok u performansama, s više od 3,5 puta većom mogućnošću zaključivanja i 3 puta većom snagom treniranja u usporedbi s prethodnim izdanjem ROCm 6. Ovo postignuće proizlazi iz napretka u upotrebljivosti, performansama i podršci za tipove podataka niže preciznosti poput FP4 i FP6. Daljnja poboljšanja komunikacijskih stogova optimizirala su iskorištenost GPU-a i kretanje podataka.

ROCm 7 uvodi robustan pristup distribuiranom zaključivanju, iskorištavajući suradnju s ekosustavom otvorenog koda, uključujući okvire poput SGLang, vLLM i llm-d. Prihvaćanjem otvorene strategije, ROCm 7 je izgrađen uz ove partnere, zajednički razvijajući dijeljena sučelja kako bi se omogućilo učinkovito distribuirano zaključivanje na AMD platformama.

ROCm Enterprise AI predstavlja se kao robusna MLOps platforma dizajnirana za besprijekorne operacije umjetne inteligencije u poduzećima. Uključuje alate za fino podešavanje modela s podacima specifičnim za industriju i integraciju sa strukturiranim i nestrukturiranim tijekovima rada, što je omogućeno partnerstvima unutar AMD-ovog ekosustava za razvoj referentnih aplikacija poput chatbotova i sažetaka dokumenata.

Proširujući ROCm iskustvo izvan oblaka, ROCm 7 podržava razvoj na Ryzen prijenosnim računalima i radnim stanicama, omogućujući dosljednu inovaciju od oblaka do klijenta. S očekivanom dostupnošću od druge polovice 2025., ROCm će biti prisutan u glavnim distribucijama, pozicionirajući Windows kao prvoklasni, potpuno podržani OS, osiguravajući prenosivost i učinkovitost na kućnim i poslovnim postavkama.