Google открывает свой экспериментальный чат-бот с искусственным интеллектом для публичного тестирования

Google открывает LaMDA для широкой публики, но он запускается с ограничениями, направленными на то, чтобы предотвратить его оскорбительную реакцию.

Компания Google открыла свое мобильное приложение AI Test Kitchen, чтобы дать всем желающим ограниченный практический опыт работы с последними достижениями в области искусственного интеллекта, такими как разговорная модель LaMDA.

В мае Google анонсировала AI Test Kitchen вместе со второй версией LaMDA (Language Model for Dialogue Applications) и теперь позволяет публично тестировать части того, что, по ее мнению, является будущим взаимодействия человека и компьютера.

AI Test Kitchen «предназначен для того, чтобы дать вам представление о том, каково это — иметь LaMDA в своих руках», — сказал тогда генеральный директор Google Сандей Пичаи.

AI Test Kitchen является частью плана Google по обеспечению того, чтобы его технология была разработана с некоторыми защитными рельсами. Любой желающий может присоединиться к списку ожидания на AI Test Kitchen. Первоначально он будет доступен для небольших групп в США. Приложение для Android уже доступно, а приложение для iOS должно появиться «в ближайшие недели».

СМ.: Специалист по обработке и анализу данных против инженера данных: как меняется спрос на эти роли

При регистрации пользователь должен согласиться с несколькими вещами, в том числе с «Я не буду включать никакую личную информацию о себе или других при взаимодействии с этими демонстрациями». 

Подобно недавнему публичному предварительному просмотру Meta своей модели искусственного интеллекта чат-бота, BlenderBot 3, Google также предупреждает, что его ранние предварительные просмотры LaMDA «могут отображать неточный или неприемлемый контент». Открыв BlenderBot 3 для жителей США, Meta предупредила, что чат-бот может «забыть», что это бот, и может «говорить вещи, которыми мы не гордимся».

Обе компании признают, что их искусственный интеллект иногда может казаться политически некорректным, как это сделал чат-бот Tay от Microsoft в 2016 году после того, как общественность накормила его неприятными вводными данными. Как и Meta, Google заявляет, что LaMDA претерпела «ключевые улучшения безопасности», чтобы избежать неточных и оскорбительных ответов.

Но в отличие от Meta, Google, похоже, использует более ограниченный подход, устанавливая границы того, как общественность может общаться с ним. До сих пор Google предоставлял LaMDA только сотрудникам Google. Открытие его для общественности может позволить Google ускорить темпы улучшения качества ответов.

Google выпускает AI Test Kitchen в виде набора демонстраций. Первый, «Представьте это», позволяет вам назвать место, после чего искусственный интеллект предлагает пути для «исследования вашего воображения». 

Вторая демонстрация «List it» позволяет вам «поделиться целью или темой», которую LaMDA затем пытается разбить на список полезных подзадач.

Третья демонстрация — «Talk about it (Dogs edition)», которая, по-видимому, является самым свободным тестом, хотя и ограниченным собачьими вопросами: «Вы можете вести веселый, открытый разговор о собаках и только собаках, который исследует способность LaMDA оставаться в теме, даже если вы пытаетесь отклониться от темы», — говорит Google.

LaMDA и BlenderBot 3 стремятся к лучшей производительности в языковых моделях, которые имитируют диалог между компьютером и человеком. 

LaMDA — это большая языковая модель со 137 миллиардами параметров, в то время как BlenderBot 3 от Meta — это «диалоговая модель со 175 миллиардами параметров, способная к разговору в открытом домене с доступом к Интернету и долговременной памятью». 

Внутренние тесты Google были сосредоточены на повышении безопасности ИИ. Google заявляет, что проводит состязательное тестирование, чтобы найти новые недостатки в модели, и нанял «красную команду» — экспертов по атакам, которые могут сделать акцент на модели таким образом, чтобы неограниченная общественность могла   это сделать — которые «обнаружили дополнительные вредные, но тонкие результаты», по словам Трис Варкентин из Google Research и Джоша Вудворда из Labs в Google. 

В то время как Google хочет обеспечить безопасность и избежать того, чтобы его искусственный интеллект говорил постыдные вещи, Google также может извлечь выгоду из выпуска его в дикую природу, чтобы испытать человеческую речь, которую он не может предсказать. Довольно сложная дилемма. В отличие от одного инженера Google, который сомневался в разумности LaMDA, Google подчеркивает несколько ограничений, от которых Tay от Microsoft страдал при общении. 

«Модель может неправильно понимать намерение, стоящее за терминами идентичности, и иногда не может дать ответ при их использовании, потому что ей трудно различать мягкие и состязательные подсказки. Он также может вызывать вредные или токсичные реакции, основанные на предубеждениях в данных обучения, генерируя ответы, которые стереотипизируют и искажают людей на основе их пола или культурного происхождения. Эти и другие области продолжают активно изучаться», — говорят Варкентин и Вудворд.

СМОТРИТЕ: Как я оживил три древних компьютера с помощью ChromeOS Flex

Google заявляет, что защита, которую она добавила до сих пор, сделала ее ИИ более безопасным, но не устранила риски. Защита включает в себя фильтрацию слов или фраз, нарушающих его политику, которая «запрещает пользователям сознательно создавать контент откровенно сексуального характера; разжигающие ненависть или оскорбительные; насильственный, опасный или незаконный; или разглашает личную информацию».   

Кроме того, пользователям не следует ожидать, что Google удалит все, что будет сказано по завершении демонстрации LaMDA.

«Я смогу удалить свои данные во время использования определенной демонстрации, но как только я закрою демонстрацию, мои данные будут храниться таким образом, что Google не сможет сказать, кто их предоставил, и больше не сможет выполнять какие-либо запросы на удаление», — говорится в форме согласия.