Pokrenuta AIOps platforma Nvidia Minerva

Nvidia je pokrenula Minerva AIOps platformu, koja je izgrađena kako bi pomogla timovima da ranije pronađu probleme i održi produktivnost tvornica umjetne inteligencije. Objedinjuje telemetriju iz infrastrukture i AI opterećenja, a zatim primjenjuje namjenski izrađene AI modele kako bi te podatke pretvorila u pravovremene i praktične uvide.

Tvornice umjetne inteligencije spadaju među najsloženije operacije na svijetu, s ogromnim brojem grafičkih procesora (GPU) koji rade preko brzih mreža kako bi trenirali modele i posluživali AI aplikacije. U toj mjeri, jedna degradirana komponenta može usporiti cijeli posao. Znakove upozorenja lako je previdjeti, poput GPU-a koji se zagrijava više od svojih vršnjaka ili NVMe pogona koji gubi performanse pod opterećenjem.

Minerva se fokusira na prinos tvornice umjetne inteligencije, mjeru korisne radne infrastrukture koju proizvodi kroz sate rada GPU-a, propusnost dobara, vrijeme rada klastera i proizvodnju tokena.

Tradicionalni alati za nadzor često dijele podatkovni centar na odvojene prikaze. Timovi za umrežavanje, računalstvo, pouzdanost lokacije i strojno učenje vide svaki drugi dio operacije. Minerva povezuje te signale između Nvidia GPU-a, umrežavanja, pohrane, planera i opterećenja.

Pomoću ovih signala, Minerva gradi dinamički graf znanja koji logički mapira infrastrukturu, GPU-ove, SuperNIC-ove, prekidače i kabele i poslove koji se na njoj izvode. Ovaj kontekst pomaže operaterima da prate spor zadatak obuke do komponente koja na njega utječe, čak i u tvornici sa stotinama tisuća GPU-ova.

Analizira milijarde podatkovnih točaka na sat koristeći nadzirano i nenadzirano strojno učenje. Uči normalno ponašanje, otkriva prethodno neviđene anomalije, predviđa nastale kvarove i korelira povezane događaje na temelju topologije tvornice. Umjesto slanja svakog simptoma operateru, može grupirati oluju događaja u fokusirani incident s vjerojatnim uzrokom.

Minerva dolazi s izvornim AI asistentom i povezuje se s vanjskim agentskim AI alatima. To dodaje sučelje na prirodnom jeziku utemeljeno na telemetriji uživo. Operateri mogu istražiti stanje klastera i dobiti preporučene sanacije putem razgovora. Timovi mogu osobu obavještavati o ručnoj implementaciji ispravaka ili povezati Minervu s automatizacijom putem programskih sučelja za infrastrukturne aplikacije i vanjskih sustava.

Mogućnost povezivanja problema s opterećenjem i infrastrukturom, zajedno s agentskim AI mogućnostima, pomaže pojednostavniti rad AI tvornice. Umjesto suočavanja s nizom upozorenja, Minerva objedinjuje povezane probleme u jednu akcijsku stavku. To omogućuje AIOps timovima da prijeđu s reaktivnog na proaktivno održavanje. I sve to pomaže AI tvornicama da maksimiziraju vrijeme rada GPU-a.

IREN, Aolana, Bitdeer AI, IBM, Jio, Lambda, Quake AI i Tesla planiraju implementirati Minervu, dok će Dell Technologies, Lenovo i Supermicro ponuditi Minervu kao dio svojih portfelja operacija u tvornicama umjetne inteligencije.