Nvidia odhalila novou řadu zatím nejvýkonnějších AI čipů s označením Blackwell. Odhalení proběhlo 18. března 2024 v San Jose během globální konference o umělé inteligenci pro vývojáře (GTC).
Důležité body:
Revoluční architektura Blackwell
Generální ředitel (CEO) Jensen Huang na konferenci uvedl, že grafické jednotky (GPU) s architekturou Blackwell výrazně zvyšují výpočetní výkon pohánějící velké jazykové modely. GPU Blackwell má 208 miliard tranzistorů ve srovnání s rok starou GPU jednotkou H100, která obsahuje „pouze“ 80 miliard tranzistorů.
Nvidia láká své zákazníky ke koupi nových výkonnějších čipů, aby podpořila růst objednávek. To se odehrává v době, kdy někteří odběratelé stále čekají na dodání GPU jednotek současné generace. Nvidia přenechala výrobu čipů na TSMC, podobně jako Apple nebo AMD, a jelikož TSMC nemá neomezenou kapacitu, musí si zákazníci na čipy počkat.
Dále byly uvedeny další výhody nové architektury včetně detailních specifikací, které jsou určeny spíš pro vývojáře, a tak bych s dovolením tyto informace přeskočil. Avšak pokud by se tu našel někdo, koho to zajímá víc do hloubky, přikládám odkaz.
Superčip GB200
Celá konference směřovala k představení nejvýkonnějšího čipu s celým označením Nvidia GB200 Grace Blackwell Superchip. Ano, jen při pohledu na název se tají dech.
Nvidia GB200 Grace Blackwell Superchip spojuje dvě GPU jednotky Nvidia B200 Tensor Core s CPU Nvidia Grace. CPU jednotka Grace je postavená na ARM architektuře, stejnou architekturu využívá u svých čipů například Apple.
Systém GB200 NVL 72
Čip GB200 je pak klíčovou součástí víceuzlového, kapalinou chlazeného systému Nvidia GB200 NVL 72 určeného pro nejnáročnější pracovní zátěže. Díky kapalinou chlazenému systému má GB200 NVL 72 až 25 krát nižší náklady na spotřebu energie.
Systém kombinuje 36 superčipů Grace Blackwell, které zahrnují 72 GPU Blackwell a 36 CPU Grace. Když to všechno shrneme systém GB200 NVL 72 je 30 krát výkonnější než systém, který obsahuje stejný počet GPU jednotek H100 Tensor Core.
Služba NIM
Společně s odhalením nové architektury Blackwell a čipu GB200, byl odhalen i nový software NIM (Nvidia Inference Microservice), který má usnadnit vývojářům nasazení umělé inteligence do svých služeb, jako jsou datová centra nebo cloud.
Pomocí služby NIM mohou společnosti optimalizovat svou AI infrastrukturu pro maximální efektivitu, aniž by se museli starat o složitý vývoj AI modelů. To umožňuje vývojářům integrovat software NIM do svých stávajících aplikací bez složitých úprav nebo odborných znalostí. Kromě zrychlené infrastruktury pomáhá NIM i s výkonem a snižuje náklady na hardware a sním spojený provoz.
Nvidia se snaží vytvořit propojený ekosystém, aby si udržela, co nejvíce zákazníků. Vedení Nvidie tvrdí, že se společnost mění z poskytovatele čipů na poskytovatele platformy, na které mohou další společnosti stavět. Služba NIM bude fungovat na bázi předplatného.
Závěr
Společnost každé dva roky aktualizuje architekturu svých čipů a vždy se jedná o velký posun kupředu. Skoro všechny dnešní AI modely byly vycvičeny na architektuře Hopper – na které jsou postaveny GPU jednotky H100. Nové čipy založené na architektuře Blackwell nabízejí obrovský skok v oblasti výkonu.
Největší poskytovatelé cloudových služeb Amazon (AWS), Google Cloud, Microsoft Azure a Oracle Cloud budou jako první nabízet výkon nových jednotek GB200. Amazon Web Services (AWS) dokonce uvedl, že plánuje postavit serverový cluster s 20 000 čipy GB200.
Cena nové jednotky GB200 zatím nebyla zveřejněna. Stávající jednotka H100 stojí v rozmezí 25 000 až 40 000 dolarů za kus, přičemž celý systém složený z H100 se podle odhadů může vyšplhat až na 200 000 dolarů.
Zdroje: nvidia.com, cnbc.com, theverge.com