Nowy serwer o mocy obliczeniowej 5 PFLOPS

: Maciej Roszkowski; Opublikowano: 16 marzec 2022

Na Wydziale Informatyki ZUT został uruchomiony nowy serwer obliczeniowy Supermicro AS-4124GS-TNR.
Serwer jest wyposażony w 2 procesory AMD EPYC 7H12 (seria 7002) oraz 4TB pamięci RAM.
W serwerze znajduje się ponadto 8 kart graficznych NVIDIA A100 Tensor Core 40GB PCIe, które razem umożliwiają uzyskanie szybkości obliczeń GPU rzędu 5 PFLOPS, czyli aż 5 000 000 000 000 000 operacji na liczbach zmiennoprzecinkowych bfloat16 na sekundę.
Ten serwer to jeden z najszybszych serwerów dedykowanych uczeniu maszynowemu.

System operacyjny nowego serwera to hipernadzorca VMware vSphere ESXi 7.0. Serwer jest zarządzany przez oprogramowanie VMware vCenter Server 7.0.
Wszystkie obliczenia są wykonywane w maszynach wirtualnych w środowisku Linux Ubuntu 20.04. Dzięki wirtualizacji kart graficznych i wykorzystywanej licencji NVIDIA Virtual GPU (NVIDIA AI Enterprise) jest możliwe współdzielenie mocy kart graficznych przez wiele zespołów naukowych pracujących jednocześnie.
Wszystkie obliczenia są wykonywane przy użyciu pakietu aplikacji i frameworków wykorzystujących sztuczną inteligencję i analizę danych: RAPIDS (przygotowanie danych), TensorFlow (uczenie), PyTorch (uczenie), NVIDIA TensorRT (wnioskowanie), NVIDIA Triton Inference Server (skalowanie).
Każdy z pakietów jest na bieżąco aktualizowany i dostarczany w postaci kontenerów Dockera poprzez katalog NVIDIA NGC.

Serwer jest dostępny dla naukowców, doktorantów oraz studentów, którzy wykorzystują go do obliczeń naukowych. W przypadku doktorantów i studentów do rozpoczęcia pracy na serwerze wymagana jest zgoda opiekuna.

Serwerem opiekuje się dr inż. Maciej Roszkowski z Katedry Architektury Komputerów i Telekomunikacji WI ZUT.

Prezentacja serwera Supermicro i kart graficznych NVIDIA A100.
https://www.youtube.com/watch?v=PzYCnUx-ISw
https://www.youtube.com/watch?v=MY7jZGZw9vA