Nvidia представляет преемника Ampere Hopper и графический процессор H100 на 80 миллиардов транзисторов

Огромные нагрузки, на которые раньше уходила неделя на A100, теперь будут занимать всего 20 часов.

Nvidia объявила о своей новой архитектуре для рабочих нагрузок искусственного интеллекта в центрах обработки данных, которая придет на смену Ampere под названием Hopper, в честь пионера вычислительной техники Грейс Хоппер.

Первым продуктом на базе Hopper станет H100, который содержит 80 миллиардов транзисторов, построен на технологии TSMC 4N и обеспечивает в три-шесть раз большую производительность, чем A100 на базе Ampere. Графический процессор будет поддерживать PCIe Gen5, память NVLink HBM3 четвертого поколения и иметь пропускную способность памяти 3 Тбит/с.

«Двадцать графических процессоров H100 могут поддерживать эквивалент всего мирового интернет-трафика, что позволяет клиентам предоставлять передовые рекомендательные системы и большие языковые модели, выполняющие вывод на основе данных в режиме реального времени», — говорится в сообщении Nvidia.

Графический процессор также будет иметь второе поколение технологии Multi-Instance и сможет поддерживать семь палаток на одном GPU. Компания также заявляет, что сможет делать это безопасно благодаря своей конфиденциальной вычислительной поддержке.

«Hopper привносит конфиденциальные вычисления в ускоренные вычисления, используя комбинацию аппаратного и программного обеспечения. Когда конфиденциальные вычисления включены или доверенная среда выполнения создается через конфиденциальную виртуальную машину, которая включает в себя центральный и графический процессоры вместе, передача данных между центральным процессором и между графическим процессором и между графическим процессором в узле шифруется и расшифровывается с полной скоростью линии PCIe», — сказал старший директор Nvidia по вычислительным системам для центров обработки данных Пареш Харья.

«H100 также имеет аппаратный брандмауэр, который защищает всю рабочую нагрузку на графическом процессоре H100, а также изолирует ее между памятью и компьютерными ядрами, так что никто, кроме владельца доверенной среды выполнения с ключом, не может прикоснуться к каким-либо данным, закодированным внутри нее.

«Такая конструкция гарантирует полную изоляцию виртуальных машин и предотвращает доступ или изменение со стороны любого неавторизованного объекта, включая гипервизор, операционную систему хоста или даже любого, у кого есть физический доступ».

Nvidia заявила, что H100 может справиться со 105-слойной моделью-монстром с 530 миллиардами параметров, Megatron-Turing 530B, с производительностью до 30 раз выше. При обучении модели Mix of Experts Transformer с 395 миллиардами параметров на 8000 графических процессорах, по словам Nvidia, вместо семи дней при использовании A100 обучение на H100 занимает всего 20 часов.

Компания объединит восемь графических процессоров H100 для своей системы DGX H100, которая будет обеспечивать 32 петафлопса на рабочих нагрузках FP8, а новый DGX Superpod свяжет до 32 узлов DGX H100 с коммутатором с использованием NVLink четвертого поколения, способного развивать скорость 900 Гбит/с.

Для тех, у кого более скромный бюджет, графический процессор будет доступен от обычных подозреваемых в облаке.

Доступность H100 начнется в третьем квартале.

Наряду с H100, Nvidia также представила свой суперчип Grace, основанный на паре чипов Grace, подключенных с помощью NVLink-C2C для межчипового соединения. Суперчип имеет 144 ядра Arm в одном сокете, память LPDDR5x с ECC и потребляет 500 Вт энергии.

Как суперчип Grace, так и сочетание процессора и графического процессора в суперчипе Grace Hopper, анонсированном в прошлом году, будут доступны в первой половине 2023 года.

На GTC Nvidia объявила, что ее автомобильная система Drive Hyperion 9 будет доступна в серийных автомобилях 2026 года и будет включать в себя 14 камер, девять радаров, три лидара и 20 ультразвуковых датчиков для автоматизированного и автономного вождения, а также три камеры и один радар для заглядывания внутрь автомобиля.

Связанное покрытие

• Мечта Nvidia о владении Arm официально закончилась
• NVIDIA расследует инцидент в сфере кибербезопасности
• FTC: Окончание слияния Nvidia и Arm «гарантирует будущие инновации»
• Почему отказ от сделки с Nvidia + Arm в конечном итоге плох для отрасли
• Nvidia сообщила о выручке в $7,6 млрд в 4 квартале после провала сделки с Arm