Два самых востребованных ускорителя для ИИ. H100 (Hopper) заметно быстрее для больших моделей, A100 (Ampere) дешевле и всё ещё актуален. Разберём отличия.
| Параметр | NVIDIA A100 | NVIDIA H100 |
|---|---|---|
| Поколение | Ampere | Hopper |
| Память | 40 / 80 ГБ HBM2e | 80 ГБ HBM3 |
| Форматы | SXM4, PCIe | SXM5, PCIe |
| FP8 / Transformer Engine | Нет | Да — кратно ускоряет LLM |
| Производительность на LLM | База | Существенно выше |
| NVLink | Есть | Быстрее |
| Когда брать | Бюджет, зрелые задачи | Обучение современных LLM, максимум скорости |
H100 — стандарт для обучения больших языковых моделей: Transformer Engine и FP8 дают кратный прирост. A100 остаётся разумным выбором при ограниченном бюджете и для многих задач инференса и классического ML. Если всё упирается в память под инференс — смотрите ещё и на H200 (141 ГБ HBM3e).
Смотреть в наличии → Полный гайд по выбору →