Nvidia
Tā kā AI un mašīnmācība ir arvien neaizstājamāka mūsdienu skaitļošanas sastāvdaļa, Nvidia uzņēmējdarbības pamati joprojām ir spēcīgi. Viņi ir izvirzījuši savu centienu būt ievērojamam spēkam serveru biznesā, veidojot partnerattiecības ar vairākiem tehnoloģiju uzņēmumiem. Nesen Nvidia un VMware paziņoja par sasaisti, kas novedīs Nvidia vGPU (Virtual GPU Technology) uz VMware vSphere steku AWS.
GPU ir veidoti, domājot par datu paralēlo skaitļošanu, kas paātrina vektoru un matricu darbību. Tas padara tos ideāli piemērotus AI slodzēm.
Agrāk tikai CPU tikai AI slodzi tagad var viegli izvietot virtualizētās vidēs, piemēram, VMware vSphere ar jauniem vComputeServer programmatūra un NVIDIA NGC . Caur mūsu partnerība ar VMware , šī arhitektūra palīdzēs organizācijām vienmērīgi migrēt AI procesus uz GPU starp klientu datu centriem un VMware Cloud uz AWS.
- ANNE HECHT (Nvidia)
GPU paātrinātas slodzes bieži tiek palaistas uz viena īrnieka fiziskiem serveriem, taču ar vComputeServer uzņēmumi var palaist AI slodzes virtualizētā vidē, tas piedāvā lielāku elastību un naudas ietaupījumus (līdz noteiktam mērogam). Nvidia jau atbalsta dažus uz KVM balstītus hipervizorus, tostarp Red Hat un Nutanix. VMware’s vSphere ir jaunākais papildinājums.
Funkcijas vComputeServer ietver:
- GPU veiktspēja: Līdz pat 50x ātrāka dziļas apmācības apmācība nekā tikai CPU, līdzīga veiktspēja kā GPU darbināšanai uz tukša metāla.
- Papildu aprēķins: Kļūdu labojošais kods un dinamiskā lapu aiziešana no darba novērš datu korupciju augstas precizitātes darba slodžu dēļ.
- Tiešā migrācija: Virtuālās mašīnas, kurās iespējots GPU, var migrēt ar minimālu traucējumu vai dīkstāves laiku.
- Paaugstināta drošība: Uzņēmumi var paplašināt servera virtualizācijas drošības priekšrocības arī GPU kopās.
- Vairāku īrnieku izolācija : Darba slodzes var izolēt, lai droši atbalstītu vairākus lietotājus vienā infrastruktūrā.
- Pārvaldība un uzraudzība : Administratori var izmantot tos pašus hipervizora virtualizācijas rīkus, lai pārvaldītu GPU serverus, ar redzamību resursdatora, virtuālās mašīnas un lietotņu līmenī.
- Plašs atbalstīto GPU klāsts: vComputeServer tiek atbalstīts NVIDIA T4 vai V100 GPU, kā arī Quadro RTX 8000 un 6000 GPU, kā arī iepriekšējās Pascal arhitektūras P40, P100 un P60 GPU.
- Nvidija
VMware vSphere lietotāji iegūs arī Nvidia GPU Cloud atbalstu, kas ir GPU paātrināta mākoņa platforma, kas optimizēta dziļām mācībām un zinātniskai skaitļošanai. Anne Hecht no Nvidia raksta “ NVIDIA NGC , mūsu GPU optimizētas programmatūras centrs dziļām mācībām, mašīnmācībai un HPC, piedāvā vairāk nekā 150 konteinerus, iepriekš apmācītus modeļus, apmācības skriptus un darbplūsmas, lai paātrinātu AI no koncepcijas līdz ražošanai, ieskaitot ĀTRI , mūsu CUDA paātrinātā datu zinātnes programmatūra ”.
VMware partnerība saskaņā ar neseno iegādi
VMware gatavojas iegūt Bitfusion, kas pievienos lielu vērtību tās vSphere mākoņu platformai. Kā mēs iepriekš runājām rakstā, virtualizācija var piedāvāt uzņēmumiem daudz priekšrocību ar minimālu veiktspējas rezultātu. Izmantojot Bitfusion tehnoloģiju, uzņēmumi varēs atteikties no tukša metāla serveriem un virtualizēt savus GPU, jo šāda vienošanās var labāk izmantot pieejamos resursus. Ar paātrinātu skaitļošanu centrā esošie uzņēmumi meklēs veidus, kā virtualizēt aparatūras kaudzi, VMware to labi zina, un viņi cenšas padarīt vSphere platformu vitāli svarīgu datu centros.
Tagi nvidia
