Einführung von NVIDIA Confidential Bare Metal für das sichere Deployment fortschrittlicher Modelle

NVIDIA hat die Erweiterung ihres Confidential-Computing-Portfolios durch die Einführung von Confidential Bare Metal angekündigt, einer neuen Deployment-Option, die für Entwickler fortschrittlicher Modelle konzipiert wurde. Diese Funktion ermöglicht es Organisationen, sensible Workloads auf dedizierter Infrastruktur von Drittanbietern auszuführen, während sie die strenge Kontrolle über ihre eigenen Modelle und Daten beibehalten. Im Rahmen der umfassenderen NVIDIA-OpenShell-Referenzarchitektur unterstützt diese Initiative das sichere Deployment von Agenten im großen Maßstab. Confidential Computing dient als kritische Infrastrukturschicht, die die Modelle und Daten schützt, von denen diese Agenten bei der Ausführung abhängen, und stellt sicher, dass sensible Operationen in einer sicheren Umgebung über verschiedene Hardwarekonfigurationen hinweg geschützt bleiben.

Die neue Plattform führt erweiterte Sicherheitsmechanismen ein, die Daten während der Übertragung schützen, die Plattformintegrität messen und hardwarebasierte Zugriffsbeschränkungen durchsetzen. Diese Funktionen ermöglichen es Modellentwicklern, ihre eigenen Software-Stacks, einschließlich der Host- und Plattforminfrastruktursoftware, zu besitzen und zu betreiben, wenn sie die NVIDIA-Beschleunigungs-Computing-Infrastruktur nutzen. Diese Flexibilität ist bei Drittanbieter-Cloud-Providern, Neocloud-Plattformen und Unternehmensinfrastrukturanbietern verfügbar. Indem NVIDIA eine konvergente Sicherheitsarchitektur mit drei verschiedenen Deployment-Optionen bietet, ermöglicht sie es Organisationen, das passende Sicherheitsmodell an ihre spezifischen Vertrauensgrenzen und operativen Anforderungen anzupassen. Dies stellt sicher, dass hochwertige Workloads den erforderlichen Datenschutz erhalten, ohne die Leistung oder die operative Autonomie zu beeinträchtigen.

Die Hardware-Unterstützung für dieses erweiterte Ökosystem umfasst nun Rack-Systeme von NVIDIA Grace Blackwell NVL72 sowie x86-basierte Systeme wie NVIDIA HGX Rubin NVL8 und NVIDIA DGX Rubin NVL8. Die Technologie wird auch mit NVIDIA DSX OS integriert und bietet damit eine Referenzarchitektur für Cloud-Anbieter, die KI-Fabriken aufbauen. Diese Integration stellt sicher, dass Cloud-Anbieter eine robuste Softwarebasis für den Betrieb vertraulicher Workloads haben. Die Erweiterung bringt Confidential Computing in größere Systeme und ermöglicht so einen robusteren Schutz von Trainingsdaten und dem geistigen Eigentum der Modelle. Dieser Schritt erweitert das Hardware-Umfeld erheblich, in dem sichere, hardwarebasierte Isolation und kryptografische Attestierung auf moderne KI-Workloads angewendet werden können.

Wichtige Branchenpartner integrieren diese neuen Funktionen bereits in ihre Angebote. Cohere plant, Confidential Bare Metal in seinen Model Vault zu integrieren und dabei vertrauenswürdige Ausführungsumgebungen zu nutzen, um die hardwarebasierte Sicherheit direkt auf die GPU zu erweitern. Dies schützt Modelle und Daten im Speicher und über die Verbindungen während der Ausführung. Google Cloud erweitert die Unterstützung auf A4X Max Instanzen, die von NVIDIA GB300 NVL72 Systemen angetrieben werden, und kombiniert nicht virtualisierte beschleunigte Berechnungen mit kryptografischem Schutz. Eine breite Palette von Anbietern, darunter CoreWeave, Microsoft Azure und Vultr, unterstützt diese Bereitstellungen, während Systempartner wie Cisco, Dell und HPE NVIDIA-zertifizierte Systeme anbieten werden. Dies schafft ein umfassendes globales Ökosystem für das Skalieren von Training und Inferenz mit starken Datenschutzgarantien.