Red Hat делает большую ставку на искусственный интеллект с приобретением Neural Magic
Все вместе со своими собаками увлекаются искусственным интеллектом, но у Red Hat серьезные планы, и приобретение Neural Magic поможет воплотить их в жизнь.
Red Hat, принадлежащий IBM гигант программного обеспечения с открытым исходным кодом, завершил приобретение Neural Magic, новаторского стартапа по оптимизации искусственного интеллекта (ИИ). Первоначально объявленная в ноябре 2024 года, сделка была закрыта 13 января 2025 года, что стало важным шагом в стратегии Red Hat по расширению возможностей искусственного интеллекта в гибридных облачных средах.
Хотя цена не разглашается, Neural Magic ранее привлекла 50 миллионов долларов венчурного финансирования от различных инвесторов, включая Andreessen Horowitz, New Enterprise Associates, Amdocs и Comcast Ventures. Можно смело предположить, что сделка была заключена не за копейки. Я уверен, что причине, вероятно, не повредил тот факт, что генеральным директором Neural Magic до закрытия сделки был Брайан Стивенс, бывший технический директор и исполнительный вице-президент Red Hat.
Когда впервые было объявлено о слиянии, Стивенс сказал: «В Neural Magic наше видение заключается в том, что будущее ИИ открыто, и мы поставили перед собой задачу дать предприятиям возможность использовать мощные инновации ИИ, в то же время оставаясь свободными от трений и ограничений. Модели с открытым исходным кодом, алгоритмы оптимизации и системы вывода являются сердцем этого процесса, позволяя предприятиям владеть собственными моделями искусственного интеллекта, в частном порядке настраивать их под свои наборы данных и развертывать их в своей частной инфраструктуре от нескольких поставщиков — облаке, центре обработки данных или периферии».
Neural Magic, дочерняя компания MIT, основанная в 2018 году, разработала инновационное программное обеспечение и алгоритмы, которые ускоряют рабочие нагрузки генеративного искусственного интеллекта.
Технология компании позволяет сложным моделям искусственного интеллекта эффективно работать на стандартном оборудовании, включая стандартные процессоры и графические процессоры, потенциально снижая потребность в дорогостоящих специализированных ускорителях искусственного интеллекта.
Итак, что означает эта возможность? Что ж, благодаря приобретению Neural Magic привнесла в Red Hat несколько ключевых технологий:
- Экспертиза vLLM: Neural Magic является ведущим участником vLLM, проекта с открытым исходным кодом для эффективного обслуживания больших языковых моделей (LLM). В частности, vLLM уже является искусственным интеллектом Red Hat Enterprise Linux (RHEL) и механизмом вывода Red Hat OpenShift AI. Этот шаг явно приносит пользу существующим программам искусственного интеллекта Red Hat.
- DeepSparse: среда выполнения вывода, которая обеспечивает производительность класса GPU на стандартных процессорах с помощью алгоритмов, снижающих потребности в вычислениях и памяти для выполнения нейронной сети. В частности, помимо LLM, DeepSparse также полезен для компьютерного зрения (CV) и обработки естественного языка (NLP).
- SparseZoo: Если вы используете DeepSparse, Neural Magic уже предоставляет репозиторий предварительно оптимизированных моделей CV, NLP и LLM.
- Методы сжатия моделей: Neural Magic разработала передовые методы квантования и разрежения моделей, которые могут значительно уменьшить размер модели и вычислительные требования без существенной потери точности.
- Кроссплатформенная оптимизация: технология Neural Magic позволяет оптимизировать модели искусственного интеллекта для развертывания в облаке, центре обработки данных и периферийных средах.
Эти технологии согласуются с концепцией Red Hat по повышению доступности, эффективности и развертываемости рабочих нагрузок ИИ в гибридных облачных средах, что потенциально снижает потребность в специализированном и дорогостоящем оборудовании для ИИ. В двух словах, технология Neural Magic позволяет пользователям делать искусственный интеллект по дешевке. Кроме того, по своей сути vLLM это подход к искусственному интеллекту с открытым исходным кодом.
Что касается Red Hat, то, как сказал в своем заявлении генеральный директор компании Мэтт Хикс: «Мы очень рады дополнить наш портфель гибридных облачных ИИ, ориентированных на облако, революционными инновациями в области искусственного интеллекта от Neural Magic, что способствует нашему стремлению стать не только «Red Hat» для открытого исходного кода, но и «Red Hat» для искусственного интеллекта».
На X Хикс написал: «At@RedHat, мы считаем, что будущее ИИ открыто. Вот почему я невероятно взволнован нашим приобретением @NeuralMagic. Вместе мы продолжаем выполнять наши обязательства перед нашими клиентами и сообществом разработчиков программного обеспечения с открытым исходным кодом, чтобы обеспечить будущее искусственного интеллекта, и это начинается сегодня».
В стратегическом плане Red Hat надеется, что приобретение Neural Magic укрепит позиции Red Hat в ее способности развертывать рабочие нагрузки ИИ в различных вычислительных средах, от локальных центров обработки данных до общедоступных облаков, а также повысит эффективность рабочих нагрузок ИИ, уже выполняемых на RHEL AI, OpenShift AI и InstructLab, проекте сообщества Red Hat и IBM AI с открытым исходным кодом для улучшения лицензированных IBM Granite LLM с открытым исходным кодом.
Итак, сработает ли такой подход? Дэйв Маккарти (Dave McCarthy), вице-президент IDC по исследованиям в области облачных и периферийных сервисов, считает: «Приобретение Red Hat компании Neural Magic — это стратегическое расширение возможностей искусственного интеллекта, облегчающее развертывание искусственного интеллекта в гибридных облаках за счет использования опыта Neural Magic в оптимизации моделей и ускорении логических выводов. Этот шаг согласуется со стремлением Red Hat к инновациям с открытым исходным кодом и позволяет компании предлагать более экономичные и масштабируемые решения на основе искусственного интеллекта, которые снижают зависимость от специализированного оборудования».