Новый инструмент искусственного интеллекта Google может стать вашим новым любимым учебным пособием — и он бесплатен

На какой из трёх сторон вы находитесь?

РЭЛИ, Северная Каролина — Инициатива открытого исходного кода (OSI) выпустила определение искусственного интеллекта с открытым исходным кодом (OSAID) 1.0 28 октября 2024 года на конференции All Things Open. Создать его было непросто.

На создание и настройку OSAID у OSI ушло почти два года. Но без каких-либо изменений по сравнению с последним проектом OSAID, он наконец-то готов. К сожалению, не все ею довольны, и даже ее создатели признают, что работа над ней еще ведется.

Почему? Карло Пиана, председатель OSI и адвокат, объяснил в интервью: «Наше коллективное понимание того, что делает ИИ и что требуется для модификации языковых моделей, сейчас ограничено. Чем больше мы его используем, тем больше мы будем понимать. Верно сейчас наше понимание ограничено, и мы еще не знаем, как будет выглядеть технология через год, два или три года».

Или, как выразился Тейлор Долезал, руководитель экосистемы Cloud Native Computing Foundation (CNCF): «Балансирование принципов открытого исходного кода и сложностей искусственного интеллекта иногда может показаться попыткой собрать кубик Рубика с завязанными глазами».

Почему некоторые люди возражают против нового определения? В общих чертах, три группы обеспокоены OSAID: прагматики, идеалисты и бизнес-лидеры с ложными источниками.

Во-первых, нужно понять, в чем суть конфликтов. Операционный директор OpenStack Foundation Марк Коллиер, который участвовал в разработке OSAID, хорошо выразил это в эссе:

Одной из самых больших проблем при создании определения искусственного интеллекта с открытым исходным кодом является принятие решения о том, как обращаться с наборами данных, используемыми на этапе обучения. На первый взгляд требование обнародования всех необработанных наборов данных может показаться логичным.

Однако эта аналогия между наборами данных и исходным кодом несовершенна и начинает разваливаться, чем ближе вы смотрите. Данные обучения влияют на модели посредством шаблонов, а исходный код предоставляет четкие инструкции. Модели ИИ создают изученные параметры (веса), тогда как программное обеспечение компилируется непосредственно из исходного кода. … многие модели ИИ обучаются на закрытых или юридически неоднозначных данных, таких как контент, извлеченный из Интернета, или конфиденциальные наборы данных, такие как медицинские записи.

[Поэтому] любые общедоступные данные, используемые для обучения, должны быть доступны, наряду с полной прозрачностью всех используемых наборов данных и процедур их очистки и маркировки. Достижение правильного баланса в этом вопросе является одной из самых сложных частей создания определения, особенно с учетом быстрых изменений на рынке и в правовой среде.

Прагматики получили то, что хотели

Итак, прагматики хотели и получили определение ИИ с открытым исходным кодом, в котором не все данные должны быть открытыми и общими. Для их целей нужна только «достаточно подробная информация о данных, используемых для обучения системы», а не сам полный набор данных. Этот подход направлен на то, чтобы сбалансировать прозрачность с практическими и юридическими соображениями, такими как авторское право и частные медицинские данные.

Помимо OSI, OSAID поддерживают такие организации, как Mozilla Foundation, OpenInfra Foundation, Bloomberg Engineering и SUSE. Например, Алан Кларк из технического отдела SUSE сказал: «SUSE приветствует прогресс, достигнутый OSI и OSAID. Кульминацией этих усилий является очень тщательное определение, которое важно для быстро развивающейся среды искусственного интеллекта и роли открытого исходного кода в ней. Мы высоко оцениваем процесс, который использует OSI для определения и соблюдения методологий с открытым исходным кодом».

Информационные бюллетени

Ученые также одобрили этот первый выпуск OSAID. Перси Лян, директор Центра исследований моделей фундамента Стэнфордского университета, заявил в своем заявлении: «Придумать правильное определение для открытого исходного кода сложно, учитывая ограничения на данные, но я рад видеть, что OSI v1 Определение .0 требует, по крайней мере, чтобы полный код для обработки данных (основной фактор качества модели) был открытым. Дьявол кроется в деталях, поэтому я уверен, что нам будет что сказать, когда у нас появятся конкретные примеры. людей, пытающихся применить это определение к своим модели».

Возражения идеалистов

Говоря об этом дьяволе, идеалисты категорически возражают против того, чтобы неоткрытые данные допускались в модель ИИ с открытым исходным кодом. Хотя Пиана заявил: «Правление уверено, что в результате этого процесса было выработано определение, которое соответствует стандартам открытого исходного кода, как это определено в «Определении открытого исходного кода» и «Четырех основных свободах», идеалисты совсем не считают это таким.

Том Каллауэй, главный технический стратег по открытому исходному коду в Amazon Web Services (AWS), резюмировал их возражения: «Остается простой факт... он позволяет вам создавать двоичный файл системы ИИ из собственных источников данных и называть результат «открытым исходным кодом». и это просто неправильно. Это наносит ущерб всем устоявшимся представлениям о том, что такое «открытый исходный код», и все это во имя надежды прикрепить этот бренд к «более широкому кругу вещей».

OSI хорошо осведомлен об этих аргументах. На панельной дискуссии All Things Open представитель OSI сказал: «Члены наших сообществ расстроены. Они чувствовали, что их голоса не были услышаны в рамках этого процесса». OSI считало, что ему необходимо дать определение, поскольку как в США, так и в ЕС принимались законы об искусственном интеллекте с открытым исходным кодом, но без его определения. OSI и многие другие группы считали, что эту проблему необходимо решить, прежде чем компании начнут предлагать свои собственные фиктивные определения ИИ с открытым исходным кодом. В будущем OSI скорректирует это определение с учетом предстоящих изменений в сфере ИИ.

Тем временем, по крайней мере, одна группа, Digital Public Goods (DPG), обновляет свой стандарт DPG для ИИ, чтобы обязать открывать данные обучения для систем ИИ. Его предложение появится на GitHub в начале ноября и будет открыто для общественного обсуждения в течение четырех недель. Таких попыток будет больше.

Возражения против ложных источников

Компании, занимающиеся поддельным исходным кодом, заинтересованы в том, чтобы их программы считались открытыми. Законы и правила для ИИ с открытым исходным кодом более мягкие, чем для проприетарных систем ИИ. Это означает, что они могут сэкономить много денег, если их продукты будут регулироваться правилами открытого исходного кода.

Например, лицензия Meta Llama 3 не соответствует уровню открытого исходного кода по нескольким причинам. Тем не менее, Мета заявила: «Не существует единого определения ИИ с открытым исходным кодом, и его определение является сложной задачей, поскольку предыдущие определения с открытым исходным кодом не охватывают сложности сегодняшних быстро развивающихся моделей ИИ».

Мета и другие крупные силы ИИ, такие как OpenAI, попытаются заставить правительства признать их собственные определения. Я ожидаю, что они придумают определение искусственного интеллекта для своих собственных продуктов и услуг.

С моей точки зрения все это означает, что, хотя у OSAID есть стандарт, который будут соблюдать многие группы, конфликты по поводу того, что на самом деле является ИИ с открытым исходным кодом, только начались. Я не вижу решения конфликта в ближайшие годы.

Теперь большинству пользователей ИИ это не будет волновать. Им просто нужна помощь с домашним заданием, написанием фанфиков по «Звездным войнам» или облегчением своей работы. Совсем другая история с компаниями и государственными учреждениями. Для них ИИ с открытым исходным кодом жизненно важен как для бизнеса, так и для целей развития.