Google анонсирует облачные виртуальные машины TPU для рабочих нагрузок искусственного интеллекта

Общая доступность виртуальных машин Cloud TPU означает, что пользователям больше не нужно удаленно получать доступ к Cloud TPU.

Компания Google Cloud объявила о выпуске виртуальных машин (ВМ) TPU для рабочих нагрузок искусственного интеллекта.

Общедоступный выпуск включает в себя новый API встраивания TPU, который, как утверждает Google Cloud, может ускорить крупномасштабные рабочие нагрузки ранжирования и рекомендаций на основе машинного обучения

В Google Cloud заявили, что встраивание ускорения с помощью Cloud TPU может помочь предприятиям снизить затраты, связанные с ранжированием и рекомендациями, которые обычно полагаются на алгоритмы на основе глубоких нейронных сетей, которые могут быть дорогостоящими в запуске.

«Они, как правило, используют большие объемы данных, и их может быть сложно и дорого обучить и развернуть с помощью традиционной инфраструктуры машинного обучения», — говорится в сообщении Google Cloud в блоге.

«Встраивание ускорения в Cloud TPU может решить эту проблему с меньшими затратами. Встраиваемые API-интерфейсы могут эффективно обрабатывать большие объемы данных, такие как встраивание таблиц, за счет автоматического сегментирования сотен облачных чипов TPU в одном модуле, подключенных друг к другу через специально разработанное межсоединение».

В то же время виртуальные машины TPU были разработаны для поддержки трех основных платформ — TensorFlow, PyTorch и JAX — которые предлагаются в трех средах для простоты настройки с соответствующей платформой.

В Google Cloud добавили, что виртуальные машины TPU позволяют выполнять конвейеры входных данных непосредственно на хостах TPU. Благодаря этой возможности пользователи могут создавать собственные клиентские операции, такие как TensorFlow Text, чтобы они больше не были привязаны к версии релиза среды выполнения TensorFlow.

Локальное выполнение на узле с помощью ускорителя также позволяет использовать такие сценарии использования, как распределенное обучение с подкреплением.

«С помощью облачных виртуальных машин TPU вы можете работать в интерактивном режиме на тех же хостах, к которым подключено физическое оборудование TPU», — сказали в Google Cloud.

«Наше быстро растущее сообщество пользователей TPU с энтузиазмом приняло этот механизм доступа, потому что он не только позволяет улучшить отладку, но и позволяет проводить определенные обучающие установки, такие как распределенное обучение с подкреплением, которые были невозможны с архитектурой TPU Node (доступ к сетям)».

Связанное покрытие

• Google Cloud повышает цены на некоторые услуги хранения и передачи данных
• Microsoft Defender для облака приходит в Google Cloud
• Google Cloud запускает безагентный сканер вредоносного ПО для криптоджекинга
• Google: мы закрываем Currents и переводим пользователей в Spaces из-за гибридной работы
• Google Cloud: «Мы — набор инструментов, чтобы сделать компании лучше»