AWS конкретизирует дорожную карту процессоров с помощью Graviton3, Trainium и новых инстансов
Новый инстанс Trn1 на базе Trainium и новый инстанс C7g на базе Graviton3 обеспечат более выгодное соотношение цены и производительности для клиентов, использующих машинное обучение.
Во вторник Amazon Web Services объявила о выпуске новых инстансов EC2 на базе новых версий специально разработанных чипов Graviton3 и Trainium.
AWS сосредоточена на том, чтобы «сделать все возможности машинного обучения доступными для всех клиентов, - сказал генеральный директор AWS Адам Селипски в своем программном выступлении на AWS re:Invent. - Снижение стоимости обучения и логических выводов является важным шагом на этом пути».
После запуска первого процессора Graviton, разработанного AWS, в 2018 году облачная компания теперь дебютирует с Graviton3 для ресурсоемких рабочих нагрузок, таких как высокопроизводительные вычисления, пакетная обработка, автоматизация электронного проектирования (EDA), кодирование мультимедиа, научное моделирование, показ рекламы, распределенная аналитика и вывод машинного обучения на основе процессора.
По сравнению с Graviton2, новый чип обеспечит на 25% большую вычислительную производительность и до двух раз большую производительность при работе с плавающей запятой и криптографию. Что касается машинного обучения, Graviton3 включает поддержку данных bfloat16 и сможет обеспечить до 3 раз более высокую производительность.
AWS анонсировала грядущие инстансы C7g на базе процессоров Graviton3.
Селипски также анонсировал новый инстанс Trn1 на базе Trainium. В прошлом году AWS запустила Trainium, чип, специально созданный для обучения моделей глубокого обучения. Новые экземпляры обеспечат наилучшее соотношение цены и производительности для обучения глубокому обучению для таких приложений, как распознавание изображений, обработка естественного языка и обнаружение мошенничества.
Инстансы будут обеспечивать пропускную способность сети до 800 Гбит/с. Экземпляры Trn1 теперь доступны в предварительной версии.