NVIDIA Minerva: запуск платформи для моніторингу AI-фабрик

NVIDIA офіційно представила Minerva - спеціалізовану платформу AIOps, створену для підтримки продуктивності у великих AI-фабриках. Система збирає телеметричні дані як від базової інфраструктури, так і від активних AI-навантажень, застосовуючи цілеспрямовані моделі штучного інтелекту для перетворення сирих даних на практичні висновки. AI-фабрики - це одні з найскладніших операційних середовищ у світі, де масиви GPU працюють через високошвидкісні мережі для навчання моделей та обслуговування застосунків. У таких умовах деградація навіть одного компонента може значно сповільнити виконання завдань, тому раннє виявлення проблем є критично важливим для збереження ефективності та продуктивності.

Традиційні інструменти моніторингу часто дроблять видимість у дата-центрах, надаючи окремі перегляди для команд з мереж, обчислень, надійності сайтів та машинного навчання. Minerva вирішує цю проблему, пов'язуючи сигнали між GPU NVIDIA, мережевим обладнанням, системами зберігання, планувальниками та робочими навантаженнями. Платформа будує динамічний граф знань, який логічно відображає фізичну інфраструктуру - включаючи GPU, SuperNIC, комутатори та кабелі - поряд із завданнями, що виконуються на ній. Такий контекстний маппінг дозволяє операторам відстежувати вузькі місця продуктивності до конкретних компонентів, навіть на об'єктах із сотнями тисяч GPU, забезпечуючи точне та швидке визначення кореневих причин сповільнення навчання.

Платформа обробляє мільярди точок даних на годину, використовуючи алгоритми машинного навчання з вчителем і без вчителя. Вона вивчає нормальну поведінку системи, виявляє раніше невідомі аномалії, передбачає виникаючі збої та корелює пов'язані події на основі конкретної топології фабрики. Замість того, щоб перевантажувати операторів кожним окремим симптомом, Minerva групує шторми подій у зосереджені інциденти з ймовірними кореневими причинами. Система містить вбудованого AI-асистента та підключається до зовнішніх агентних AI-інструментів, надаючи інтерфейс на природній мові, що базується на живій телеметрії. Оператори можуть досліджувати стан кластера та отримувати рекомендації щодо усунення несправностей у форматі діалогу, зберігаючи можливість ручного виправлення або підключення до автоматизації через API інфраструктури.

Minerva розроблена для спрощення операцій шляхом агрегації пов'язаних проблем у єдині дієві елементи, що дозволяє командам AIOps перейти від реактивного усунення несправностей до проактивного обслуговування. Такий підхід допомагає максимізувати час роботи GPU та покращує ключові метрики, такі як вихід годного, корисний пропуск, доступність кластера та виробництво токенів. Кілька великих партнерів, зокрема IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI та Tesla, планують впровадження платформи. Крім того, виробники обладнання Dell Technologies, Lenovo та Supermicro пропонуватимуть Minerva в складі своїх портфелів для операцій AI-фабрик, інтегруючи її в ширші інфраструктурні рішення.