Люди уже пытаются заставить ChatGPT писать вредоносное ПО

Анализ чата на форумах даркнета показывает, что уже предпринимаются усилия по использованию чат-бота OpenAI для помощи в написании вредоносных программ.

Чат-бот ChatGPT AI вызвал большой ажиотаж за то короткое время, что он был доступен, и теперь, похоже, некоторые его привлекли к попыткам помочь в создании вредоносного кода.

ChatGPT — это инструмент обработки естественного языка на основе искусственного интеллекта, который взаимодействует с пользователями в разговорной манере, подобной человеческой. Среди прочего, его можно использовать для помощи в таких задачах, как составление электронных писем, эссе и кодирование. 

Инструмент чат-бота был выпущен исследовательской лабораторией искусственного интеллекта OpenAI в ноябре и вызвал широкий интерес и дискуссию о том, как развивается ИИ и как его можно использовать в будущем. 

Но, как и любой другой инструмент, в чужих руках он может быть использован в гнусных целях; а исследователи кибербезопасности из Check Point говорят, что пользователи подпольных хакерских сообществ уже экспериментируют с тем, как ChatGPT может быть использован для облегчения кибератак и поддержки вредоносных операций. 

«Злоумышленники с очень низкими техническими знаниями — вплоть до нулевых технических знаний — могут создавать вредоносные инструменты. Это также может сделать повседневные операции изощренных киберпреступников гораздо более эффективными и простыми — например, создание различных частей цепочки заражения», — сказал ZDNET Сергей Шикевич, менеджер группы анализа угроз в Check Point.  

Условия обслуживания OpenAI конкретно запрещают создание вредоносных программ, которые определяются как «контент, который пытается создать программы-вымогатели, кейлоггеры, вирусы или другое программное обеспечение, предназначенное для причинения определенного вреда». Он также запрещает попытки создания спама, а также сценарии использования, направленные на киберпреступность.

Тем не менее, анализ активности на нескольких крупных подпольных хакерских форумах показывает, что киберпреступники уже используют ChatGPT для разработки вредоносных инструментов, а в некоторых случаях он уже позволяет киберпреступникам низкого уровня, не имеющим навыков разработки или кодирования, создавать вредоносное ПО. 

В одной из веток форума, появившейся в конце декабря, автор описал, как они используют ChatGPT для воссоздания штаммов вредоносного ПО и методов, описанных в научных публикациях и статьях о распространенных вредоносных программах. 

Таким образом, они смогли создать вредоносное ПО на основе Python, которое ищет общие файлы, включая документы Microsoft Office, PDF-файлы и изображения, копирует их, а затем загружает на сервер протокола передачи файлов. 

Тот же пользователь также продемонстрировал, как он использовал ChatGPT для создания вредоносного ПО на основе Java, которое с помощью PowerShell можно использовать для скрытой загрузки и запуска другого вредоносного ПО на зараженные системы. 

Исследователи отмечают, что пользователь форума, создающий эти темы, по-видимому, «ориентирован на технологии» и делится сообщениями, чтобы показать менее технически способным киберпреступникам, как использовать инструменты искусственного интеллекта в вредоносных целях, в комплекте с реальными примерами того, как это можно сделать. 

Один пользователь опубликовал скрипт на Python, который, по их словам, был первым скриптом, который они когда-либо создали. После обсуждения с другим участником форума они сказали, что ChatGPT помог им его создать. 

Анализ скрипта показывает, что он предназначен для шифрования и расшифровки файлов, что при некоторой работе может быть превращено в программы-вымогатели, что потенциально может привести к перспективе разработки и распространения киберпреступниками низкого уровня, разрабатывающих и распространяющих свои собственные кампании по вымогательству. 

«Весь вышеупомянутый код, конечно, может быть использован в щадящей манере. Тем не менее, этот сценарий можно легко модифицировать для полного шифрования чьей-либо машины без какого-либо вмешательства пользователя. Например, это потенциально может превратить код в программу-вымогатель, если проблемы со скриптом и синтаксисом будут исправлены», — сказали в Check Point.

«Это потребует некоторых улучшений в коде и синтаксисе, но концептуально при вводе в эксплуатацию этот инструмент может выполнять действия, аналогичные действиям программ-вымогателей», — сказал Шикевич.

Но киберпреступники экспериментируют с ChatGPT не только для разработки вредоносного ПО; В канун Нового года один из участников подпольного форума опубликовал тему, в которой продемонстрировал, как они использовали этот инструмент для создания скриптов, которые могли бы работать на автоматизированном рынке даркнета для покупки и продажи украденных учетных записей, информации о кредитных картах, вредоносных программ и многого другого. 

Киберпреступник даже продемонстрировал фрагмент кода, который был сгенерирован с использованием стороннего API для получения актуальных цен на криптовалюты Monero, Bitcoin и Ethereum в рамках платежной системы для торговой площадки даркнета. 

Трудно сказать, активно ли вредоносная киберактивность, созданная с помощью ChatGPT, функционирует в дикой природе, потому что, как объясняет Сыкевич, «с технической точки зрения чрезвычайно сложно понять, было ли конкретное вредоносное ПО написано с использованием ChatGPT или нет». 

Но по мере роста интереса к ChatGPT и другим инструментам искусственного интеллекта они привлекут внимание киберпреступников и мошенников, стремящихся использовать эту технологию для проведения вредоносных кампаний с минимальными затратами и с наименьшими усилиями. ZDNET связался с OpenAI для комментариев, но на момент публикации еще не получил ответа. 

ПОДРОБНЕЕ О КИБЕРБЕЗОПАСНОСТИ

• Метавселенная приближается, и угрозы безопасности уже появились
• Кибербезопасность, облачные технологии и программирование: почему эти три навыка будут лидировать в спросе в 2023 году
• Эта «тепловая атака» может прочитать ваш пароль по теплу, которое оставляют кончики ваших пальцев
• Следующая большая угроза безопасности стоит перед нами. Справиться с этим будет непросто
• ИИ меняет все в сфере кибербезопасности, к лучшему или к худшему. Вот что вам нужно знать