NVIDIA Minerva: запуск платформы для наблюдения за AI-фабриками

NVIDIA официально представила Minerva - специализированную платформу AIOps, созданную для поддержания производительности в крупных AI-фабриках. Система собирает телеметрические данные как от базовой инфраструктуры, так и от активных AI-нагрузок, применяя целевые модели искусственного интеллекта для превращения сырых данных в практические выводы. AI-фабрики - одни из самых сложных операционных сред в мире, где массивы GPU работают через высокоскоростные сети для обучения моделей и обслуживания приложений. В таких условиях деградация даже одного компонента может значительно замедлить выполнение задач, поэтому раннее выявление проблем критически важно для сохранения эффективности и производительности.

Традиционные инструменты мониторинга часто дробят видимость в дата-центрах, предоставляя отдельные представления для команд по сетям, вычислениям, надежности сайтов и машинному обучению. Minerva решает эту проблему, связывая сигналы между GPU NVIDIA, сетевым оборудованием, системами хранения, планировщиками и рабочими нагрузками. Платформа строит динамический граф знаний, который логически отображает физическую инфраструктуру - включая GPU, SuperNIC, коммутаторы и кабели - наряду с выполняемыми на ней задачами. Такой контекстный маппинг позволяет операторам прослеживать узкие места производительности до конкретных компонентов, даже в объектах со сотнями тысяч GPU, обеспечивая точное и быстрое определение корневых причин замедления обучения.

Платформа обрабатывает миллиарды точек данных в час, используя алгоритмы машинного обучения с учителем и без учителя. Она изучает нормальное поведение системы, выявляет ранее невиданные аномалии, предсказывает возникающие сбои и коррелирует связанные события на основе конкретной топологии фабрики. Вместо того чтобы перегружать операторов каждым отдельным симптомом, Minerva группирует штормы событий в сфокусированные инциденты с вероятными корневыми причинами. Система включает встроенного AI-ассистента и подключается к внешним агентным AI-инструментам, предоставляя интерфейс на естественном языке, основанный на живой телеметрии. Операторы могут исследовать состояние кластера и получать рекомендации по устранению неполадок в формате диалога, сохраняя возможность ручного исправления или подключения к автоматизации через API инфраструктуры.

Minerva спроектирована для упрощения операций путем агрегации связанных проблем в единые исполнимые элементы, что позволяет командам AIOps перейти от реактивного устранения неполадок к проактивному обслуживанию. Такой подход помогает максимизировать время работы GPU и улучшает ключевые метрики, такие как выход годного, полезный пропуск, доступность кластера и производство токенов. Несколько крупных партнеров, включая IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI и Tesla, планируют развертывание платформы. Кроме того, производители оборудования Dell Technologies, Lenovo и Supermicro будут предлагать Minerva в составе своих портфелей для операций AI-фабрик, интегрируя его в более широкие инфраструктурные решения.