Cloud VMware na AWS získává virtualizované GPU, protože společnost spolupracuje se společností Nvidia

Tech / Cloud VMware na AWS získává virtualizované GPU, protože společnost spolupracuje se společností Nvidia 2 minuty čtení

Nvidia



Vzhledem k tomu, že umělá inteligence a strojové učení jsou stále více nepostradatelnou součástí moderních počítačů, zůstávají obchodní základy společnosti Nvidia silné. V čele své snahy stát se prominentní silou v obchodě se servery vytvářejí partnerství s více technologickými společnostmi. Nedávno společnosti Nvidia a VMware oznámily spojení, které přinese vGPU (technologie Virtual GPU) společnosti Nvidia do zásobníku VMware vSphere na AWS.

GPU jsou navrženy s ohledem na datově paralelní výpočty, které zrychlují vektorové a maticové operace. Díky tomu jsou ideální pro pracovní vytížení AI.



Dříve omezené pouze na CPU lze pracovní zátěže AI nyní snadno nasadit na virtualizovaná prostředí, jako je VMware vSphere, s novými vComputeServer software a NVIDIA NGC . Prostřednictvím našeho partnerství se společností VMware , tato architektura pomůže organizacím bezproblémově migrovat pracovní vytížení AI na GPU mezi zákaznickými datovými centry a VMware Cloud na AWS.



- ANNE HECHT (Nvidia)



Úlohy s akcelerací GPU se často spouští na fyzických serverech s jedním nájemcem, ale díky společnostem vComputeServer mohou pracovní zátěže AI spouštět ve virtualizovaném prostředí, což nabízí větší flexibilitu a peněžní úspory (až do určitého rozsahu). Nvidia již podporuje několik hypervizorů založených na KVM, včetně Red Hat a Nutanix. VMware vSphere je nejnovější přírůstek.

Mezi funkce vComputeServer patří:

  • Výkon GPU: Až 50krát rychlejší trénink hlubokého učení než pouze CPU, podobný výkon jako běh GPU na holém kovu.
  • Pokročilý výpočet: Kód opravující chyby a vyřazení dynamické stránky zabraňují poškození dat u vysoce přesných úloh.
  • Živá migrace: Virtuální stroje s podporou GPU lze migrovat s minimálním narušením nebo prostojem.
  • Zvýšená bezpečnost: Podniky mohou rozšířit bezpečnostní výhody virtualizace serverů na klastry GPU.
  • Izolace více nájemců : Pracovní zátěže lze izolovat, aby bezpečně podporovaly více uživatelů na jedné infrastruktuře.
  • Řízení a monitorování : Správci mohou ke správě serverů GPU používat stejné virtualizační nástroje hypervisoru s viditelností na úrovni hostitele, virtuálního počítače a aplikace.
  • Široká škála podporovaných GPU: vComputeServer je podporován na grafických kartách NVIDIA T4 nebo V100, stejně jako na grafických kartách Quadro RTX 8000 a 6000 a v předchozích generacích grafických procesorů P40, P100 a P60 v architektuře Pascal.

- Nvidia



Uživatelé VMware vSphere také získají podporu Nvidia GPU Cloud, což je cloudová platforma s akcelerací GPU optimalizovaná pro hluboké učení a vědecké výpočty. Anne Hecht z Nvidia píše „ NVIDIA NGC , naše centrum softwaru optimalizovaného pro GPU pro hluboké učení, strojové učení a HPC, nabízí více než 150 kontejnerů, předem vyškolené modely, tréninkové skripty a pracovní postupy pro urychlení AI od konceptu po výrobu, včetně PEŘEJE , náš software pro datovou vědu zrychlený CUDA “.

VMware partnerství in-line s nedávnou akvizicí

Společnost VMware získá společnost Bitfusion, která přidá velkou hodnotu své cloudové platformě vSphere. Jak jsme již zmínili dříve v článku, virtualizace může nabídnout společnostem mnoho výhod s minimálním výkonem. Díky technologii Bitfusion budou společnosti schopny odklonit se od holých serverů a virtualizovat své GPU, protože takové uspořádání může vést k lepšímu využití dostupných zdrojů. Vzhledem k tomu, že se akcelerované výpočty dostanou do centra pozornosti, budou společnosti hledat způsoby, jak virtualizovat svůj hardware, VMware si to dobře uvědomuje a usilují o to, aby platforma vSphere byla v datových centrech životně důležitá.

Značky nvidia