Společnost Nvidia na veletrhu CES 2025 představila revoluční novinku v podobě osobního AI superpočítače označovaného jako Project Digits. Kompaktní superpočítač bude uveden na trh v květnu tohoto roku a představuje zásadní průlom v dostupnosti výkonného AI hardwaru pro širokou komunitu vývojářů, a to za relativně příznivou cenu 3 000 dolarů (v přepočtu 73 000 Kč).
Zařízení Project Digits je poháněno novým čipem Grace Blackwell, který nese označení GB10. Novinka nabízí dostatečný výpočetní výkon pro provoz sofistikovaných modelů umělé inteligence v kompaktním provedení. Zařízení lze napájet ze standardní elektrické zásuvky, což bylo dříve u podobně výkonných systémů nemyslitelné.
Čip GB10 poskytuje výkon až 1 petaflop (1 kvadrilion výpočtů za sekundu) s přesností FP4 (což pomáhá urychlit výpočty pomocí aproximací). Systém je dále vybaven jádry CUDA nejnovější generace a jádry Tensor Cores páté generace, které jsou připojeny prostřednictvím rozhraní NVLink-C2C k procesoru Grace.
Procesor Grace pak obsahuje 20 úsporných jader založených na architektuře ARM. Na vývoji čipu GB10 se podílela společnost MediaTek, která se zabývá návrhy ARM, s cílem optimalizovat jeho energetickou účinnost a výkon.
Project Digits disponuje 128 GB unifikované koherentní paměti a až 4 TB NVMe úložištěm. Systém lze rozšířit propojením dvou jednotek, čímž se zvýší kapacita zpracování až na 405 miliard parametrů, což odpovídá nejpokročilejším AI modelům současnosti, jako je například Meta Llama 3.1.
Nvidia poskytuje kompletní softwarovou podporu včetně vývojářských sad, orchestračních nástrojů a předtrénovaných modelů dostupných přes katalog Nvidia NGC. Systém běží na operačním systému Nvidia DGX OS, který je postavený na Linuxu a podporuje populární frameworky jako PyTorch, Python a Jupyter Notebook.
Vývojáři mohou na Projectu Digits vyvíjet a testovat AI modely lokálně a následně je nasadit do cloudových služeb nebo datových center, které využívají architekturu čipů Grace Blackwell a platformu Nvidia AI Enterprise.
Nvidia již nabízí podobné zařízení, které bylo představeno minulý rok v prosinci. Jedná se o AI počítač Jetson Orin Nano Super za 249 dolarů (6 000 Kč), který zvládne zpracovat menší modely umělé inteligence až s 8 miliardami parametry a je především určený pro nadšence do AI a startupy.
Počítač Project Digits představuje významný milník v dostupnosti AI výpočetního výkonu. Jak uvedl CEO společnosti Nvidia, Jensen Huang,: „AI se stane běžnou součástí každé aplikace napříč všemi průmyslovými odvětvími.“ Tento osobní AI superpočítač zpřístupňuje pokročilé možnosti umělé inteligence datovým vědcům, AI výzkumníkům a studentům, čímž významně přispívá k rozvoji éry umělé inteligence.
Zdroj: nvidia.com