NVIDIA breidt Confidential Computing uit met Confidential Bare Metal. Daarmee kunnen bouwers van frontiermodellen gevoelige werklasten draaien op infrastructuur van derden en toch de controle over hun modellen en data houden.
Wat Confidential Bare Metal doet
Confidential Computing beschermt modellen en data terwijl ze in gebruik zijn, met isolatie in de hardware en cryptografische attestatie. Met de nieuwe bare-metaloptie kunnen modelbouwers hun eigen softwarestack beheren, inclusief de host- en platformsoftware, terwijl ze op NVIDIA-hardware bij een cloudaanbieder of ander datacenter draaien. Nieuwe beveiligingsmaatregelen beschermen data onderweg, meten de integriteit van het platform en beperken de toegang op hardwareniveau.
Confidential Computing kent daarmee drie varianten: bare metal, containers voor Kubernetes en virtuele machines. Organisaties kunnen kiezen welke vorm bij hun eisen en vertrouwensgrenzen past.
Cohere en Google Cloud als eerste partners
Cohere wil Confidential Bare Metal opnemen in Cohere Model Vault, zodat klantdata ook in het GPU-geheugen en tijdens verbindingen tussen chips beschermd blijft. Google Cloud breidt de ondersteuning uit naar A4X Max-instances met NVIDIA GB300 NVL72-systemen, zodat AI-labs trainingsdata en modellen in een niet-gevirtualiseerde omgeving kunnen beschermen.
Breder platform
De ondersteuning geldt nu ook voor Grace Blackwell NVL72-racksystemen en HGX en DGX Rubin-systemen. Cloudaanbieders als CoreWeave, Lambda, Microsoft Azure, Nebius en Nscale ondersteunen de technologie. NVIDIA DSX OS gaat alle varianten van Confidential Computing ondersteunen, als basis voor aanbieders die AI-datacenters bouwen.