Как план трансформации отрасли IBM использует искусственный интеллект, 5G и совместную работу

SambaNova только что добавила еще одно предложение в свой портфель AI-as-a-service для предприятий: языковые модели GPT. Поскольку компания продолжает реализовывать свое видение, мы встретились с генеральным директором Родриго Ляном, чтобы заглянуть как в общую картину, так и под капот.

Как и сам искусственный интеллект, стартап SambaNova, специализирующийся на искусственном интеллекте, интересен по всему стеку. От программного обеспечения к аппаратному обеспечению, от технологий к бизнес-модели, от концепции к реализации.

SambaNova попала в новости по ряду причин: громкие основатели, серия раундов финансирования, которые вывели ее на территорию единорогов, впечатляющая технология чипов искусственного интеллекта и нетрадиционный выбор в упаковке. В настоящее время компания выполняет свою цель — обеспечить прорыв в области искусственного интеллекта на предприятии.

SambaNova только что объявила о своем предложении GPT-as-a-service, своей членской программе ELEVAITE для клиентов, и работает с одним из крупнейших банков в Европе над созданием того, что, по ее утверждению, станет самым быстрым в Европе суперкомпьютером с искусственным интеллектом.

Мы связались с генеральным директором и соучредителем SambaNova Родриго Ляном, чтобы поговорить обо всем этом, а также об одной из наших любимых тем: графики и о том, как они лежат в основе предложения SambaNova.

ИИ как услуга

SambaNova недавно привлекла колоссальные $676 млн в рамках финансирования серии D, превысила оценку в $5 млрд и стала самым финансируемым в мире стартапом в области искусственного интеллекта. Как бы впечатляюще это ни звучало, это, вероятно, не продлится очень долго. Отличие в том, что он является «самым финансируемым в мире стартапом в области искусственного интеллекта», то есть не в финансировании. Лян, который часто называет ИИ «таким же большим, если не большим, чем Интернет», вероятно, согласится:

«Люди не всегда осознают в своих вертикалях, что идет гонка ИИ. Подумайте о банках, производстве, здравоохранении, обо всех этих различных секторах, где люди используют ИИ как возможность катапультировать свое положение в своем секторе. Это целая индустрия искусственного интеллекта. Происходит много действительно разрушительных вещей, в которых мы играем одну из ролей», — сказал Лян.

SambaNova только что представила свое предложение GPT-as-a-service, которое рассказывает о том, как SambaNova подходит к искусственному интеллекту на предприятии.

В отличие от предложения Nvidia, например, SambaNova просто хочет делать все для своих клиентов. От получения модели до ее настройки и обучения, а затем развертывания, эксплуатации и обслуживания. Это включает в себя доступ к данным, необходимым для индивидуального обучения GPT в соответствии с требованиями клиента, что, по словам Ляна, может быть сделано любым необходимым способом — локально или в инфраструктуре SambaNova.

Это согласуется с тем, как SambaNova поставляет свое оборудование: либо в виде коробки, которая включает в себя все, от чипов до сети, либо в виде услуги. Лян сказал, что их много раз просили продавать клиентам «просто чипы», и они могли это сделать. Но компания утверждает, что подавляющее большинство людей в мире не обладают опытом в области искусственного интеллекта, чтобы выводить чипы или программное обеспечение на низкий уровень и внедрять решения.

SambaNova решила предложить 3 типа моделей искусственного интеллекта в качестве услуги в зависимости от потребностей клиентов: языковые модели, компьютерное зрение и рекомендательные системы. 

Цель SambaNova заключается в том, чтобы привлечь как можно больше компаний из списка Fortune 5000 (sic) к использованию решений искусственного интеллекта, а не пытаться связаться с как можно большим количеством разработчиков искусственного интеллекта. SambaNova делает то же самое, и разработчики любят создавать новые модели. Тезис Линага, однако, заключается в том, что модели достигли той точки, когда они являются «фантастическими», и, несмотря на постепенный прогресс, ценность заключается в развертывании в производстве.

Этот тезис согласуется не только с понятием соучредителя SambaNova Криса Ре о «ИИ, ориентированном на данные», но и со смещением акцента в сторону MLOps. Что касается типа услуг на основе искусственного интеллекта, которые SambaNova предлагает своим клиентам, Лян сказал, что, хотя они могут быть любыми, поскольку субстрат потока данных может адаптироваться к любой рабочей нагрузке, компания решила сосредоточиться на 3 типах моделей искусственного интеллекта.

Одно — языковые модели GPT, другое — компьютерное зрение высокой четкости, а рекомендательные модели — третье. Решение основано на потребительском спросе. Лян сказал, что, хотя предложение SambaNova включает в себя настройку и обслуживание, бизнес-модель основана на подписке, а не на обслуживании. Больше Salesforce, чем Accenture. Что касается деталей, требующих большого объема обслуживания, SambaNova сотрудничает с рядом партнеров.

Поток данных: Периферия SambaNova основана на обработке графов

По словам Ляна, архитектура Dataflow — это то, что дает SambaNova преимущество в гибкости и производительности. Исходя из того, что есть в открытом доступе на Dataflow, у нас сложилось впечатление, что Dataflow разрабатывался исходя из программного обеспечения, а точнее, компиляторов. Лян подтвердил это и даже охарактеризовал SambaNova как «компанию, ориентированную на программное обеспечение».

Так как же работает Dataflow? Если мы подумаем о том, как работают нейронные сети, у нас есть взаимосвязанные узлы, выполняющие последовательные раунды вычислений, чтобы увидеть, дает ли результат каждого раунда лучше, чем предыдущий. «Вы просто продолжаете делать эти итерации снова и снова», — отметил Лян. Вычисления, которые сегодня происходят для этого типа обработки, люди называют «ядро за ядром», добавил он.

Это, как отмечает Лян, приводит к неэффективности и увеличивает потребность в памяти с высокой пропускной способностью, потому что между вычислительным механизмом и промежуточной памятью существует множество рукопожатий:

«Как вычислительный движок, вы выполняете свои вычисления, а затем отправляете их обратно, и вы позволяете хосту отправить вам следующее вычислительное ядро, а затем вы начинаете выяснять, о, что мне нужно? Здесь хранились предыдущие данные; тогда я его получу. Поэтому очень сложно планировать ресурсы. Мы не знаем, что нас ждет. Когда вы не знаете, что вас ждет, вы не знаете, какие ресурсы вам могут понадобиться.

В области искусственного интеллекта происходит много действительно прорывных вещей, и SambaNova является частью этого.

Мы начали со стека компилятора. Первое, что мы хотим сделать, это сказать: смотрите, эти нейронные сети очень предсказуемы. Даже для чего-то вроде GPT, каким бы большим он ни был, мы заранее знаем взаимосвязи. Модели становятся настолько большими, что человеческий глаз и разум не созданы для того, чтобы оптимизировать их для этого. Но компиляторы отлично справляются с этой задачей.

Предположим, вы позволяете инструменту войти и развернуть весь граф и просто увидеть каждый слой графа, каждое взаимодействие, которое вам может понадобиться, где находятся разделы, где находятся все критические соединения с задержкой, где находятся соединения с высокой пропускной способностью. В этом случае у вас действительно есть шанс выяснить, как действительно оптимально запустить этот конкретный график», — сказал Лян.

Далее Лян добавил доступные сегодня варианты — процессоры, графические процессоры, FPGA — умеют обрабатывать только одно ядро за раз. SambaNova берет график вычислений, все проблемы с пропускной способностью и задержкой, наносит их на карту и сохраняет данные на чипе. Ключевым моментом является поддержание оптимальной связи всех этих графов и взаимосвязей и заблаговременное согласование.

Вы можете масштабировать это для многих графов на одной микросхеме, или вы можете поместить один граф в сотни микросхем - компилятору все равно. Например, некоторые из самых искушенных клиентов SambaNova в правительстве США сообщают, что они получают преимущество в 8-10 раз, а иногда и в 20 раз по сравнению с результатами их графических процессоров, которые они оптимизировали в течение многих лет.

Интересно, что последние пару раз мы видели результаты для MLPerf, SambaNova не учитывалась. Чтобы уточнить, это означает, что SambaNova вообще не подчинялась MLPerf. Набор тестов MLPerf является творением MLCommons, отраслевого консорциума, который выпускает эталонные оценки для обучения машинного обучения и рабочих нагрузок вывода. Так что единственный способ проверить заявления Ляна — это попробовать SambaNova, по-видимому. В любом случае, к контрольным показателям следует относиться с долей скептицизма, и доказательством этого является то, как все работает в ваших условиях.

Несмотря на это, мы находим акцент на обработке графов для чипов искусственного интеллекта интригующим. SambaNova — не единственная компания по производству чипов искусственного интеллекта, которая сосредоточилась на этом, и гонка за обработку графов продолжается.