NVIDIA heeft Minerva gelanceerd, een AIOps-platform dat gegevens uit de infrastructuur en AI-werklasten van grote datacenters combineert. Met eigen AI-modellen moet het problemen eerder signaleren en sneller de oorzaak vinden.
Eén beeld van het hele datacenter
In grote AI-datacenters kan één slecht werkend onderdeel een volledige trainingsjob vertragen, bijvoorbeeld een GPU die warmer draait dan de rest of een opslagschijf die onder belasting trager wordt. Traditionele monitoring verdeelt zo’n datacenter vaak in losse domeinen voor netwerk, rekenkracht en machine learning.
Minerva koppelt signalen van GPU’s, netwerk, opslag, planningssoftware en werklasten aan elkaar. Op basis daarvan bouwt het een dynamische kennisgraaf van de hardware en de jobs die erop draaien. Zo kunnen beheerders een trage trainingsjob terugleiden naar het onderdeel dat het probleem veroorzaakt.
Minder meldingen, meer oorzaak
Het platform analyseert volgens NVIDIA miljarden datapunten per uur met machine learning. Het leert normaal gedrag kennen, herkent afwijkingen en voorspelt dreigende storingen. In plaats van elk symptoom apart te melden, bundelt Minerva een golf aan meldingen tot één incident met een waarschijnlijke oorzaak.
Minerva heeft een ingebouwde AI-assistent en kan koppelen met externe agenttools. Beheerders kunnen de status van een cluster via gewone taal onderzoeken en hersteladvies krijgen. Ze kunnen fixes zelf uitvoeren of Minerva via API’s aan automatisering koppelen.
Eerste gebruikers
IREN gebruikt Minerva al. Onder meer IBM, Lambda, Jio en Tesla zijn van plan het platform in te zetten. Dell Technologies, Lenovo en Supermicro gaan Minerva aanbieden als onderdeel van hun producten voor het beheer van AI-datacenters.