NVIDIA показала NVHBM для следующего поколения AI-инфраструктуры… — Machine learning Interview

Machine learning Interview@machinelearning_interview · 30.2K subscribers Open in TelegramOpen

🔥 NVIDIA показала NVHBM для следующего поколения AI-инфраструктуры

NVHBM - собственная технология HBM base-die, которую NVIDIA объединяет с NVLink Fusion для кастомных AI-ускорителей.

Заявленные преимущества против стандартной HBM4e:

- до +30% пропускной способности памяти
- до -15% энергопотребления HBM
- до +30% доступной площади кристалла под вычислительные блоки
- до -67% площади PHY и служебной логики
- около +30% end-to-end производительности на XPU

На масштабе дата-центра в 1 ГВт экономия энергии, по расчётам NVIDIA, может высвободить мощность ещё примерно для 15 000 ускорителей по 2 кВт.

NVLink Fusion при этом связывает кастомные XPU/CPU с общей инфраструктурой NVIDIA на уровне стойки.

https://developer.nvidia.com/blog/nvidia-nvlink-fusion-brings-nvhbm-to-next-generation-ai-infrastructure/

t.me/machinelearning_interview/2968 Translate