Запуск NVIDIA Confidential Bare Metal для безпечного розгортання передових моделей

NVIDIA оголосила про розширення портфеля Confidential Computing завдяки впровадженню Confidential Bare Metal - нового варіанту розгортання, створеного для розробників передових моделей. Ця функція дозволяє організаціям виконувати конфіденційні завдання на виділеній інфраструктурі сторонніх провайдерів, зберігаючи строгий контроль над власними моделями та даними. У межах ширшої референсної архітектури NVIDIA OpenShell ця ініціатива підтримує безпечне розгортання агентів промисловими масштабами. Confidential Computing виступає критично важливим інфраструктурним шаром, який захищає моделі та дані, необхідні для роботи цих агентів, гарантуючи, що конфіденційні операції залишаються під захистом у безпечному середовищі на різних апаратних конфігураціях.

Нова платформа вводить розширені механізми безпеки, які захищають дані під час передачі, вимірюють цілісність платформи та застосовують апаратні обмеження на доступ. Ці можливості дозволяють розробникам моделей володіти та експлуатувати власні програмні стеки, включаючи програмне забезпечення хоста та інфраструктури платформи, при використанні інфраструктури прискорених обчислень NVIDIA. Така гнучкість доступна на інфраструктурі сторонніх хмарних провайдерів, neocloud-платформ та корпоративних постачальників. Пропонуючи конвергентну архітектуру безпеки з трьома різними варіантами розгортання, NVIDIA дозволяє організаціям підбирати відповідну модель безпеки під їхні конкретні межі довіри та операційні вимоги. Це гарантує, що високоцінні завдання отримують необхідний захист конфіденційності без шкоди для продуктивності або операційної автономії.

Апаратна підтримка цього розширеного екосистемного рішення тепер включає стійкові системи NVIDIA Grace Blackwell NVL72, а також системи на базі x86: NVIDIA HGX Rubin NVL8 та NVIDIA DGX Rubin NVL8. Ця технологія також буде інтегрована з NVIDIA DSX OS, що надає референтну архітектуру для хмарних провайдерів, які будують «фабрики ШІ». Ця інтеграція забезпечує хмарним провайдерам надійну програмну основу для роботи з конфіденційними навантаженнями. Розширення масштабу дозволяє застосовувати Confidential Computing до більш великих систем, забезпечуючи надійніший захист навчальних даних та інтелектуальної власності моделей. Цей крок значно розширює спектр апаратних платформ, де можна застосовувати безпечну апаратну ізоляцію та криптографічну автентифікацію для сучасних ШІ-навантажень.

Ведучі галузеві партнери вже інтегрують ці нові можливості у свої продукти. Cohere планує впровадити Confidential Bare Metal у свій Model Vault, використовуючи середовища довіреного виконання, щоб розширити апаратну безпеку безпосередньо до GPU. Це захищає моделі та дані в пам'яті та по каналах зв'язку під час виконання. Google Cloud розширює підтримку на інстанси A4X Max на базі систем NVIDIA GB300 NVL72, поєднуючи невиртуалізовані прискорені обчислення з криптографічним захистом. Широке коло провайдерів, включаючи CoreWeave, Microsoft Azure та Vultr, підтримує такі розгортання, а системні партнери, такі як Cisco, Dell та HPE, пропонуватимуть сертифіковані системи NVIDIA. Це створює комплексну глобальну екосистему для масштабування навчання та інференсу з високими гарантіями конфіденційності.