NVIDIA bejelentette a szuperszámítógépek új osztályát nagy memóriával - a szuperszámítógépet NVIDIA DGX szuperchipekre épül NVIDIA GH200 Grace Hopper és kapcsolórendszerek NVIDIA NVLink. A következő generációs modellek fejlesztésére tervezték generatív alkalmazásokhoz AI, ajánlórendszerek és adatelemzési munkaterhelések.
Hatalmas memóriaterület NVIDIA A DGX GH200 az NVLink csatlakozási technológiát és az NVLink Switch System rendszert használja, hogy 256 GH200 szuperchipet egyesítsen, amelyek ennek eredményeként egyetlen GPU-ként működnek. Ez 1 exaflop teljesítményt és 144 TB megosztott memóriát biztosít, közel 500-szor többet, mint az előző generáció NVIDIA DGX A100, amelyet 2020-ban vezettek be.
"Generatív AI, a nagy nyelvi modellek és ajánlórendszerek a modern gazdaság digitális motorjai – mondta az alapító-vezérigazgató NVIDIA Jensen Huang. – A DGX GH200 AI szuperszámítógépek a legmodernebb gyorsított számítási és hálózati technológiákat integrálják NVIDIAkiterjeszteni az AI határait”.
Amint arról a cég honlapján megjelent sajtóközlemény is beszámolt, a GH200-as szuperchipek miatt nincs szükség hagyományos CPU-GPU PCIe kapcsolatra. Egyesítik a processzort NVIDIA Kar alapú Grace és GPU NVIDIA H100 Tensor Core egy tokban. Ez hétszeresére növeli a GPU és a CPU közötti sávszélességet, jelentősen csökkenti az energiafogyasztást, és 7 GB GPU Hopper architektúrát biztosít az új szuperszámítógépek számára. A DGX GH600 architektúrája 200-szor nagyobb NVLink sávszélességet biztosít, mint az előző generáció.
A Google Cloud várhatóan meta hogy Microsoft az elsők között fog hozzáférni a DGX GH200-hoz, és feltárja képességeit az AI munkaterhelések generálására. A gyártó a DGX GH200 dizájnt is mintaként kívánja átadni a felhőszolgáltatóknak, hogy az infrastruktúrájukhoz igazíthassák.
"A fejlett generatív modellek létrehozásához innovatív megközelítésre van szükség a mesterséges intelligencia infrastruktúrájában" - mondta a számítástechnikai alelnök. A Google Cloud Mark Lohmeyer. "Az NVLink új skálája és a Grace Hopper szuperchip memóriája megoldja a nagyszabású mesterséges intelligencia fő szűk keresztmetszeteit, és alig várjuk, hogy feltárjuk a Google Cloud és a generatív mesterségesintelligencia-kezdeményezéseinkben rejlő lehetőségeket."
Az Azure Infrastructure vállalati alelnöke Microsoft Girish Bablani felhívta a figyelmet a DGX GH200-ban rejlő lehetőségekre a terabájtos adatkészletekkel való együttműködésben, ami lehetővé teszi a fejlesztők számára, hogy nagyobb léptékben és gyorsított sebességgel végezzenek kutatást.
A cég szuperszámítógépet is készít NVIDIA DGX GH200-alapú Helios kutatói és fejlesztőcsapatai számára. Négy DGX GH200 rendszerrel lesz felszerelve, és mindegyiket Quantum-2 InfiniBand hálózat köti össze, hogy növelje az adatátvitelt a nagy mesterséges intelligencia modellek betanításához. A Helios 1024 Grace Hopper szuperchipet fog tartalmazni, és várhatóan az év végén kezdi meg működését.
Szoftver NVIDIA A Base Command mesterséges intelligencia munkafolyamat-kezelést, vállalati szintű fürtkezelést, számítási, tárolási és hálózati infrastruktúrát felgyorsító könyvtárakat, valamint az AI-munkaterhelésekhez optimalizált rendszerszoftvert kínál. Tartalmazza továbbá az AI Enterprise szoftvert, amely több mint 100 keretrendszert, előre betanított modelleket és fejlesztőeszközöket biztosít az éles mesterséges intelligencia fejlesztésének és telepítésének egyszerűsítésére, beleértve a generatív mesterséges intelligenciát is. AI, számítógépes látás, beszéd AI és még sok más.
Szuperszámítógépek NVIDIA A DGX GH200 az év végén lesz elérhető.
Olvassa el még: