Microsoft и OpenAI заявили, что хакеры используют ChatGPT для кибератак

Microsoft и OpenAI предупредили, что хакеры используют искусственный интеллект (ИИ) и большие языковые модели (LLM) в качестве оружия для усиления своих текущих кибератак.

Согласно исследованию, проведенному Microsoft Threat Intelligence в сотрудничестве с OpenAI, обе компании выявили и пресекли деятельность пяти аффилированных с государством субъектов, которые стремились использовать сервисы ИИ для поддержки вредоносной кибердеятельности.

Эти связанные с государством субъекты связаны с такими странами, как Россия, Северная Корея, Иран и Китай.

В число пяти государственных злоумышленников вошли два связанных с Китаем злоумышленника, известных как «Угольный тайфун» (CHROMIUM) и «Лососевый тайфун» (SODIUM); связанная с Ираном группировка по борьбе с угрозами, известная как Crimson Sandstorm (CURIUM); связанный с Северной Кореей актер, известный как Emerald Sleet (THALLIUM); и связанный с Россией актер, известный как Forest Blizzard (STRONTIUM).

Например, OpenAI сообщила, что китайский Charcoal Typhoon использовал свои услуги для исследования различных компаний и инструментов кибербезопасности, отладки кода и генерации скриптов, а также создания контента, который, вероятно, будет использоваться в фишинговых кампаниях.

Другим примером является иранская компания Crimson Sandstorm, которая использовала LLM для создания фрагментов кода, связанных с разработкой приложений и веб-сайтов, создания контента, вероятно, для целевых фишинговых кампаний, а также для помощи в разработке кода, позволяющего избежать обнаружения.

Кроме того, Forest Blizzard, российская государственная группа, как говорят, использовала сервисы OpenAI в основном для исследований протоколов спутниковой связи и технологий радиолокационной визуализации с открытым исходным кодом, а также для поддержки задач по написанию сценариев.

В среду OpenAI заявила, что закрыла идентифицированные учетные записи OpenAI, связанные с хакерами, спонсируемыми государством. Эти субъекты, как правило, стремились использовать сервисы OpenAI для запроса информации из открытых источников, перевода, поиска ошибок кодирования и выполнения основных задач кодирования, говорится в сообщении AI-фирмы.

«Языковая поддержка является естественной особенностью LLM и привлекательна для злоумышленников, которые постоянно сосредоточены на социальной инженерии и других методах, полагаясь на ложные, вводящие в заблуждение коммуникации, адаптированные к работе, профессиональным связям и другим отношениям их целей. Важно отметить, что наше исследование с OpenAI не выявило значительных атак с использованием LLM, которые мы внимательно отслеживаем», — говорится в новом отчете о безопасности искусственного интеллекта, опубликованном Microsoft в среду в партнерстве с OpenAI.

К счастью, по данным компании, пока не было обнаружено никаких значительных или новых атак с использованием технологии LLM. «Наш анализ текущего использования технологии LLM злоумышленниками выявил поведение, соответствующее использованию злоумышленниками ИИ в качестве еще одного инструмента повышения производительности. Microsoft и OpenAI еще не наблюдали особенно новых или уникальных методов атак или злоупотреблений с поддержкой ИИ в результате использования ИИ злоумышленниками», — отметила Microsoft в своем отчете.

Чтобы отреагировать на эту угрозу, Microsoft объявила о наборе принципов, определяющих ее политику и действия по борьбе со злоупотреблением своими службами искусственного интеллекта со стороны государственных продвинутых постоянных угроз (APT), продвинутых постоянных манипуляторов (APM) и киберпреступных синдикатов.

«Эти принципы включают в себя идентификацию и принятие мер против злонамеренных злоумышленников, уведомление об использовании других поставщиков услуг искусственного интеллекта, сотрудничество с другими заинтересованными сторонами и прозрачность», — сказал гигант из Редмонда.