Nvidia H100 96GB - она существует | Тайны ServerFlow

А вам известно, что NVIDIA выпускает кастомные OEM-версии своих топовых ускорителей для ИИ? Сегодня специалисты из компании ServerFlow проведут анбоксинг одного из таких GPU. Вашему вниманию представляем NVIDIA H100 96GB — OEM-версию знаменитого ИИ-ускорителя NVIDIA H100.

NVIDIA H100 96GB представляет собой ускоритель, который предоставляет несколько больших возможностей по сравнению с широко известной версией H100 80GB. Дополнительные 16 ГБ памяти улучшают его позиционирование в условиях активно растущих объёмов датасетов моделей ИИ. Помимо прибавки в объеме памяти, нужно отметить значительные улучшения по сравнению с H100 80GB. В целом его более корректно сравнивать с H100 NVL 94GB.

Что же нового в этой видеокарте?

Техпроцесс. Видеокарта изготовлена по обновленному 4-нанометровому техпроцессу.
Число ядер. Благодаря снижению техпроцесса эта видеокарта располагает увеличенным числом ядер — 16896 (на 15% больше чем у 80GB версии).
Тип памяти. Обновление затронуло и тип используемой памяти. Вместо HBM2E для изготовления этой видеокарты была задействована HBM3 память, которая обладает лучшей пропускной способностью и оптимизированными задержками.

Таким образом, NVIDIA H100 96GB представляет собой переосмысление традиционной версии H100 80GB с улучшениями и более конкурентной стоимостью по сравнению с NVIDIA H100 NVL 94GB. Это делает этот GPU конкурентоспособным для построения продвинутых ИИ-фабрик для размещения в датацентрах.

Отдельно стоит упомянуть про драйвер. Поскольку H100 96GB — это сугубо корпоративное решение, эта видеокарта поддерживает только OS Linux. Поэтому для работы этой видеокарты потребуется развертывание Ubuntu/Debian/RedHat. Драйвер Nvidia для Windows не находит совместимого оборудования ввиду несоответствия ID установленного в GPU чипа. Чип H100 96GB в первую очередь предназначен для установки в OEM-GPU инфраструктуры крупных заказчиков, где всегда используется Linux.

Наш сайт - https://serverflow.ru
Блог ServerFlow - https://serverflow.ru/blog/