Lansiranje NVIDIA Confidential Bare Metal za sigurno razmještanje naprednih modela

NVIDIA je najavila proširenje portfelja Confidential Computing uvođenjem Confidential Bare Metal, nove opcije razmještanja stvorene za izvođače naprednih modela. Ova funkcija omogućuje organizacijama da izvršavaju osjetljive radne opterećenja na posvećenoj infrastrukturi trećih strana, zadržavajući strogu kontrolu nad svojim modelima i podacima. Kao dio šire referentne arhitekture NVIDIA OpenShell, ova inicijativa podržava sigurno razmještanje agenata u velikim razmjerima. Confidential Computing služi kao ključni sloj infrastrukture koji štiti modele i podatke od kojih ti agenti ovise tijekom izvršavanja, osiguravajući da osjetljive operacije ostanu zaštićene u sigurnom okruženju kroz raznolike hardverske konfiguracije.

Nova platforma uvodi napredne sigurnosne kontrole koje štite podatke tijekom prijenosa, mjere cjelovitost platforme i nameću hardverska ograničenja pristupa. Ove mogućnosti omogućuju izvođačima modela da posjeduju i upravljaju vlastitim prilagođenim programskim stackovima, uključujući softver domaćina i infrastrukture platforme, pri korištenju infrastrukture NVIDIA ubrzanih izračuna. Ta fleksibilnost dostupna je na infrastrukturi trećih strana, uključujući cloud, neocloud i korporativne dobavljače. Nudirajući konvergentnu sigurnosnu arhitekturu s tri različite opcije razmještanja, NVIDIA omogućuje organizacijama da usklade odgovarajući model sigurnosti s njihovim specifičnim granicama povjerenja i operativnim zahtjevima, osiguravajući da visokovrijedna radna opterećenja dobiju potrebnu zaštitu privatnosti bez kompromisa u performansama ili operativnoj autonomiji.

Hardverska podrška za ovaj prošireni ekosustem sada uključuje rack-skalne sustave NVIDIA Grace Blackwell NVL72, kao i sustave na bazi x86: NVIDIA HGX Rubin NVL8 i NVIDIA DGX Rubin NVL8. Tehnologija će se također integrirati s NVIDIA DSX OS, pružajući referentnu arhitekturu za cloud provajdere koji grade AI fabrike. Ova integracija osigurava cloud provajderima čvrstu softversku osnovu za rad s povjerljivim opterećenjima. Proširenje omogućuje primjenu Confidential Computinga na sustave većeg mjerila, čime se postiže robusnija zaštita podataka za obuku i intelektualnog vlasništva modela. Ovaj potez značajno širi hardverski spektar u kojem se sigurna, hardverski temeljena izolacija i kriptografska atestacija mogu primijeniti na suvremena AI opterećenja.

Veliki industrijski partneri već integriraju ove nove mogućnosti u svoje ponude. Cohere planira integrirati Confidential Bare Metal u svoj Model Vault, koristeći okruženja pouzdanog izvršavanja kako bi proširio hardverski temeljenu sigurnost izravno do GPU-a. To štiti modele i podatke u memoriji i preko interkonektora tijekom izvršavanja. Google Cloud proširuje podršku na instancije A4X Max pogonjene sustavima NVIDIA GB300 NVL72, kombinirajući nevirtualizirano ubrzano računanje s kriptografskom zaštitom. Širok krug provajdera, uključujući CoreWeave, Microsoft Azure i Vultr, podržava ove implementacije, dok će hardverski partneri poput Cisco, Dell i HPE nuditi sustave s NVIDIA certifikatom. Time se stvara sveobuhvatna globalna ekosustav za skaliranje obuke i inferencije s jakim garancijama privatnosti.