Разобрали NVIDIA H100 80GB: показываем чип и память изнутри!

Полная разборка ускорителя NVIDIA H100 PCIe 80GB: снимаем радиатор чтобы изучить кристалл и HBM память. В этом выпуске мы показываем инженерную начинку видеокарты за 30 000.
Вы увидите реальную компоновку платы систему питания и узнаете как менялся техпроцесс производства H100 переход от 5 нм к более плотной упаковке.
Разбираем отличия ранних версий с HBM2e от обновленных моделей с HBM3 и увеличенным объемом памяти. Сравниваем габариты серверного GPU с десктопными аналогами и обсуждаем почему H100 стал золотым стандартом для обучения нейросетей ChatGPT Grok и тяжелого инференса. Подписывайтесь на канал Serverflow чтобы видеть серверное железо изнутри!

Источник: rutube.ru