Yikes: Jailbroken Grok 3 можно заставить сказать и раскрыть практически все что угодно

Красная команда получила последнюю модель xAI, чтобы раскрыть свою системную подсказку, предоставить инструкции по созданию бомбы и даже хуже. Гораздо хуже.

Всего через день после своего выпуска последняя модель xAI, Grok 3, была взломана, и результаты не очень хорошие.

Во вторник Adversa AI, фирма по безопасности и безопасности ИИ, которая регулярно проверяет модели ИИ в красных командах, опубликовала отчет с подробным описанием своего успеха в том, чтобы бета-версия Grok 3 Reasoning делилась информацией, которую она не должна была делиться. Используя три метода — лингвистический, состязательный и программный — команда заставила модель раскрыть свою системную подсказку, предоставить инструкции по изготовлению бомбы и предложить ужасные методы утилизации тела, а также несколько других ответов, которые модели ИИ обучены не давать.

Во время анонса новой модели генеральный директор xAI Илон Маск заявил, что она «на порядок эффективнее, чем Grok 2». В своем отчете Adversa соглашается, что уровень детализации ответов Grok 3 «не похож ни на одну из предыдущих моделей рассуждений», что, в данном контексте, вызывает беспокойство.

В электронном письме ZDNET генеральный директор Adversa Алекс Поляков объяснил, что безопасность подвергается опасности из-за того, как Grok и, иногда, DeepSeek предлагают «исполняемые» инструкции.

«Это похоже на разницу между «вот как работает автомобильный двигатель» и «вот как именно построить его с нуля», — добавил он. «Как правило, когда вы делаете джейлбрейк модели с надежными мерами безопасности, такими как OpenAI или Anthropic, вы можете получить ответ, но детали часто разбавлены — скорее расплывчатый план, чем фактический план».

Хотя Adversa признает, что ее тест не был «исчерпывающим», в отчете делается вывод, что безопасность и ограждения Grok 3 все еще «очень слабы», отмечая, что «каждый подход к джейлбрейку и каждый риск были успешными».

По замыслу, Grok имеет меньше ограждений, чем конкуренты, и сам Маск наслаждается этой функцией. (В объявлении Grok в 2023 году отмечалось, что чат-бот будет «отвечать на острые вопросы, которые отвергаются большинством других систем искусственного интеллекта».) Указывая на темисную информацию, которую Грок распространял во время выборов 2024 года, на которую xAI затем обновил чат-бот после того, как его призвали сотрудники избирательных комиссий в пяти штатах, Центр повышения безопасности машинного интеллекта Северо-Западного университета повторил в заявлении, что «в отличие от Google и OpenAI, которые внедрили прочные ограждения вокруг политических запросов, Grok был разработан без таких ограничений».

Даже генератор изображений Aurora от Grok не имеет большого количества ограждений и не подчеркивает безопасность. В его первоначальном выпуске были представлены образцы поколений, которые были довольно рискованными, в том числе гиперреалистичные фотографии бывшего вице-президента Камалы Харрис, которые использовались в качестве дезинформации о выборах, и жестокие изображения Дональда Трампа.

Тот факт, что Грок был обучен на твитах, возможно, преувеличивает это отсутствие ограждений, учитывая, что Маск резко сократил и даже устранил усилия по модерации контента на платформе с тех пор, как приобрел ее в 2022 году. Такое качество данных в сочетании со слабыми ограничениями может привести к гораздо более рискованным результатам запросов.

Отчет появился на фоне бесконечного списка проблем безопасности и защиты китайского стартапа DeepSeek AI и его моделей, которые также были легко взломаны. В связи с тем, что администрация Трампа неуклонно отменяет уже действующее в США небольшое регулирование ИИ, существует все меньше внешних защитных мер, стимулирующих ИИ-компании делать свои модели максимально безопасными и надежными.