Что такое H100 от Nvidia и почему это поможет сделать ИИ массовым

H100 NVIDIA — это серверный графический ускоритель на архитектуре Hopper, созданный для обучения и запуска больших нейросетей. Чип содержит более 80 миллиардов транзисторов, несёт до 94 ГБ сверхбыстрой памяти HBM3 и ускоряет обучение модели уровня GPT-3 до 4 раз по сравнению с предыдущим поколением A100. Кластеры из таких ускорителей стали стандартной инфраструктурой для обучения больших языковых моделей, и в 2026 году эта карта остаётся рабочей лошадкой ИИ-облаков.

Главное о карте в пяти пунктах:

• два варианта: H100 SXM (80 ГБ, до 700 Вт) для серверных платформ DGX/HGX и H100 NVL (94 ГБ, 350–400 Вт) — двухслотовая PCIe-карта с воздушным охлаждением;
• пропускная способность памяти — 3,35 ТБ/с у SXM и 3,9 ТБ/с у NVL;
• Transformer Engine с точностью FP8 — фирменная технология NVIDIA, под которую спроектированы тензорные ядра четвёртого поколения;
• инференс больших моделей — до 30 раз быстрее A100 (замер NVIDIA на чат-боте Megatron с 530 млрд параметров);
• шина NVLink передаёт 900 ГБ/с между GPU — поэтому из H100 собирают кластеры на тысячи ускорителей.

Спрос на H100 поднял и саму NVIDIA: 29 октября 2025 года компания первой в истории преодолела капитализацию 5 триллионов долларов — во многом на заказах дата-центров под ИИ, пишет CNBC. Для сравнения: в 2023-м, когда выходила первая версия этой статьи, порогом сенсации был 1 триллион.

Что такое NVIDIA H100

NVIDIA H100 — ускоритель вычислений для дата-центров на архитектуре Hopper. По данным NVIDIA, чип построен из более чем 80 миллиардов транзисторов по техпроцессу TSMC 4N и оснащён тензорными ядрами четвёртого поколения. В отличие от игровых видеокарт, H100 не рисует графику для монитора — его задача считать матричные операции, из которых состоит обучение и работа нейросетей.

Карта вышла на смену A100 поколения Ampere и стала стандартом индустрии: когда компании считают мощность своих ИИ-кластеров, её до сих пор часто измеряют «в количестве H100». На таких кластерах обучают модели с сотнями миллиардов параметров — как это устроено на практике, мы разбирали на примере обучения DeepSeek V3 и моделей Character.AI.

Здесь и дальше в статье цифры взяты из официальной спецификации на странице H100 у NVIDIA и материалов об архитектуре Hopper.

ОНЛАЙН-ПРАКТИКУМ

ЗАПУСК нейросети DEEPSEEK R1 ЛОКАЛЬНО НА СВОЕМ КОМПЬЮТЕРЕ

ЧТО БУДЕТ НА ОБУЧЕНИИ?

• ПОКАЖЕМ, КАК РАЗВЕРНУТЬ МОДЕЛЬ нейросети DEEPSEEK R1 ПРЯМО НА СВОЁМ КОМПЬЮТЕРЕ
• Где и как применять? Потестируем модель после установки на разных задачах
• Как дообучить модель под себя?

Участвовать бесплатно

Характеристики NVIDIA H100: версии SXM и NVL

H100 выпускается в двух форм-факторах, и путать их не стоит: цифры заметно различаются.

Показатели тензорных ядер указаны NVIDIA с учётом разреженности (sparsity) — на плотных матрицах они вдвое ниже.

SXM — модуль для серверных платформ вроде DGX и HGX, где восемь ускорителей объединяются шиной NVLink. Важное уточнение к путанице из ранней версии статьи: DGX — это не чип, а готовый сервер NVIDIA; по документации DGX H100 внутри него работают восемь ускорителей H100. H100 NVL — карта под стандартный PCIe-слот: вариант для компаний, которые ставят ускорители в обычные стойки.

Технология Multi-Instance GPU из таблицы решает обратную задачу: один физический H100 делится на изолированные разделы, и несколько команд или сервисов работают на нём параллельно, не мешая друг другу.

Transformer Engine: за счёт чего H100 ускоряет нейросети

Главное архитектурное новшество H100 — Transformer Engine. В ранней версии этой статьи мы ошибочно назвали его разработкой Google: на самом деле это собственная технология NVIDIA, встроенная в архитектуру Hopper. Смысл в том, что тензорные ядра H100 умеют на лету смешивать вычисления в форматах FP8 и FP16: там, где точности 8 бит достаточно, блок считает вдвое компактнее и быстрее, а где нужна точность выше — переключается на FP16.

Трансформеры — это как раз тот класс моделей, на котором построены ChatGPT, Claude и другие LLM, поэтому выигрыш получился адресным. Официальные замеры NVIDIA такие:

• обучение GPT-3 (175 млрд параметров) — до 4 раз быстрее по сравнению с предыдущим поколением;
• инференс на крупнейших моделях — до 30 раз быстрее (замер на чат-боте Megatron с 530 млрд параметров);
• HPC-задачи — до 7 раз быстрее;
• инструкции DPX ускоряют алгоритмы динамического программирования в 7 раз против A100 и до 40 раз против серверов только на CPU.

Второй множитель скорости — соединение ускорителей между собой. NVLink четвёртого поколения даёт 900 ГБ/с на GPU, а коммутатор NVSwitch с протоколом SHARP удваивает пропускную способность операции all-reduce внутри сервера из восьми H100. Для моделей, которые не помещаются в память одной карты, это критично: NVIDIA прямо позиционирует H100 под языковые модели с триллионом параметров. Насколько тяжёлыми стали такие системы, видно по Ling-1T — модели с триллионом параметров, для обучения которой нужен целый кластер таких ускорителей.

Отдельный пункт — конфиденциальные вычисления: NVIDIA называет H100 первым в мире ускорителем со встроенной защитой данных прямо во время обработки. Для банков и медицины, где данные нельзя показывать даже администратору кластера, это было аргументом при выборе платформы.

Где применяют H100

Сферы из ранней версии статьи никуда не делись — изменился масштаб. Основные направления:

• Обучение и запуск LLM. Основной сценарий, под который карта спроектирована: NVIDIA позиционирует H100 под работу с языковыми моделями вплоть до триллиона параметров.
• Медицина и биоинформатика. Помимо анализа медицинских изображений, у Hopper здесь есть узкоспециальный козырь — инструкции DPX ускоряют алгоритм Смита — Ватермана, который используется для выравнивания последовательностей ДНК и в задачах фолдинга белков.
• Транспорт. Обучение моделей для беспилотников: разметка и обработка потоков с камер, лидаров и радаров.
• Финансы. Модели оценки рисков, обнаружение мошенничества, анализ рынка — плюс те самые конфиденциальные вычисления, когда данные клиентов зашифрованы даже в момент обработки.
• Научные расчёты. Кроме ИИ, H100 считает классические HPC-задачи — от гидродинамики до квантовой химии, где NVIDIA заявляет ускорение до 7 раз против A100.

Как H100 помогает делать ИИ массовым

В 2023 году H100 был дефицитом: спрос настолько превышал предложение, что покупатели месяцами ждали поставок. К 2026-му ситуация перевернулась — ускоритель стал массовой инфраструктурой. Произошло это через облака: покупать карту за десятки тысяч долларов больше не нужно, H100 арендуют почасово у облачных провайдеров, включая российские.

Для разработчика это означает простую вещь: доступ к железу уровня «топ-500 суперкомпьютеров» получает любой стартап с банковской картой. Обучить свою модель, дообучить открытую, поднять инференс под продукт — всё это задачи выходного дня, если бюджет позволяет оплатить часы аренды. А для локальных экспериментов серверное железо и вовсе не обязательно: открытую модель можно запустить на своём компьютере — как мы показывали в инструкции по запуску gpt-oss-20b от OpenAI в Windows 11.

NVIDIA H100 в 2026 году: место в линейке

У Hopper уже есть прямой наследник — H200. Это та же архитектура, но с памятью нового типа: NVIDIA называет H200 первым GPU со 141 ГБ памяти HBM3e и пропускной способностью 4,8 ТБ/с — почти вдвое больше ёмкости H100 при в 1,4 раза большей полосе. На инференсе Llama 2 70B компания заявляет ускорение в 1,9 раза относительно H100, на GPT-3 175B — в 1,6 раза. Выше в линейке стоят системы на архитектуре Blackwell.

Почему при этом H100 продолжает работать и не выглядит устаревшим:

• парк уже развёрнут — дата-центры по всему миру заполнены именно этими ускорителями, и заменять их разом никто не станет;
• софтверная экосистема CUDA общая для всех поколений: код, написанный под H100, переносится на новые карты без переделки;
• по мере выхода новых поколений аренда H100 дешевеет, и для дообучения моделей среднего размера и инференса он остаётся практичным выбором.

Так что вопрос «что такое H100» в 2026 году имеет короткий ответ: это ускоритель, который сделал генеративный ИИ индустрией, и до сих пор одна из самых распространённых единиц вычислительной мощности в ней.

Частые вопросы про NVIDIA H100

Чем H100 отличается от A100?

H100 построен на архитектуре Hopper с тензорными ядрами четвёртого поколения и Transformer Engine с поддержкой FP8. По официальным замерам NVIDIA он обучает GPT-3 (175 млрд параметров) до 4 раз быстрее A100, выполняет инференс крупнейших моделей до 30 раз быстрее, а алгоритмы динамического программирования через инструкции DPX — до 7 раз быстрее.

Сколько памяти у NVIDIA H100?

Зависит от версии: H100 SXM несёт 80 ГБ HBM3 с пропускной способностью 3,35 ТБ/с, H100 NVL — 94 ГБ с пропускной способностью 3,9 ТБ/с.

Что означают версии SXM и NVL?

SXM — модуль для серверных платформ DGX и HGX с TDP до 700 Вт и NVLink на 900 ГБ/с. NVL — двухслотовая PCIe-карта с воздушным охлаждением и TDP 350–400 Вт, которую ставят в стандартные серверы.

H100 устарел после выхода H200?

Нет. H200 — та же архитектура Hopper с увеличенной до 141 ГБ памятью HBM3e и полосой 4,8 ТБ/с, он быстрее на инференсе больших моделей. Но парк H100 в дата-центрах огромен, софт на CUDA переносится между поколениями, поэтому H100 остаётся массовым стандартом облачной аренды.

Можно ли использовать H100 дома?

Формально версия NVL ставится в PCIe-слот, но это ускоритель для дата-центров, рассчитанный на серверное питание и охлаждение. Практичный путь для личных задач — почасовая аренда H100 в облаке или запуск открытых моделей на обычном компьютере.

Если вам интересна сфера IT, и вы ищете классное комьюнити на русском языке, ждем вас в нашем телеграм-канале, который насчитывает больше 13 тысяч разработчиков. В нем постоянно обсуждают тренды в программировании и делятся ценным опытом.