Борьба с киберугрозами на основе искусственного интеллекта в 2025 году: 4 экспертных совета по безопасности для бизнеса
Киберугрозы на основе искусственного интеллекта меняют ландшафт безопасности. Компании, которые не развиваются, будут уязвимы для все более изощренных атак — вот как оставаться на шаг впереди.
Киберпреступники используют искусственный интеллект (ИИ) в качестве оружия на каждом этапе атаки. Большие языковые модели (LLM) создают гиперперсонализированные фишинговые письма, очищая профили жертв в социальных сетях и профессиональные сети. Генеративно-состязательные сети (GAN) создают дипфейк-аудио и видео для обхода многофакторной аутентификации. Автоматизированные инструменты, такие как WormGPT, позволяют разработчикам скриптов запускать полиморфные вредоносные программы, которые эволюционируют, чтобы уклоняться от обнаружения на основе сигнатур.
Эти кибератаки также не являются спекулятивными. Организации, которые не смогут разработать свои стратегии безопасности, рискуют быть захлестнутыми натиском сверхинтеллектуальных киберугроз — в 2025 году и в последующий период.
Чтобы лучше понять, как ИИ влияет на корпоративную безопасность, я поговорил с Брэйдоном Роджерсом, старшим вице-президентом Intel Security и ветераном корпоративной кибербезопасности, об этой новой эре цифровой безопасности, раннем обнаружении угроз и о том, как вы можете подготовить свою команду к атакам с использованием ИИ. Но сначала немного о том, чего ожидать.
Почему угрозы кибербезопасности ИИ отличаются
ИИ предоставляет злоумышленникам сложные инструменты, которые делают кибератаки более точными, убедительными и сложными для обнаружения. Например, современные системы генеративного ИИ могут анализировать обширные наборы данных личной информации, корпоративных коммуникаций и активности в социальных сетях для создания гиперцелевых фишинговых кампаний, которые убедительно имитируют доверенные контакты и законные организации. Эта возможность в сочетании с автоматизированным вредоносным ПО, которое адаптируется к защитным мерам в режиме реального времени, значительно увеличила как масштаб, так и успешность атак.
Технология дипфейков позволяет злоумышленникам создавать привлекательный видео- и аудиоконтент, облегчая все: от мошенничества с выдачей себя за руководителя до масштабных кампаний по дезинформации. Недавние инциденты включают кражу 25 миллионов долларов у гонконгской компании с помощью видеоконференций с использованием дипфейков и многочисленные случаи использования голосовых клипов, созданных искусственным интеллектом, для обмана сотрудников и членов их семей с целью передачи средств преступникам.
Автоматизированные кибератаки с поддержкой искусственного интеллекта привели к появлению инновационных систем атак по принципу «установил и забыл», которые непрерывно исследуют уязвимости, адаптируются к защитным мерам и используют слабые места без вмешательства человека. Одним из примеров является взлом в 2024 году крупного поставщика облачных услуг AWS. Вредоносное ПО на основе искусственного интеллекта систематически картографировало сетевую архитектуру, выявляло потенциальные уязвимости и выполняло сложную цепочку атак, в результате которой были скомпрометированы тысячи учетных записей клиентов.
Эти инциденты показывают, что ИИ не только усиливает существующие киберугрозы, но и создает совершенно новые категории рисков безопасности. Вот предложения Роджерса о том, как решить эту проблему.
1. Внедрение архитектуры нулевого доверия
Традиционного периметра безопасности уже недостаточно перед лицом угроз, усиленных искусственным интеллектом. Архитектура с нулевым доверием работает по принципу «никогда не доверяй, всегда проверяй», гарантируя, что каждый пользователь, устройство и приложение проходят аутентификацию и авторизацию перед получением доступа к ресурсам. Такой подход минимизирует риск несанкционированного доступа, даже если злоумышленнику удастся взломать сеть.
«Предприятия должны проверять каждого пользователя, устройство и приложение, включая искусственный интеллект, прежде чем они получат доступ к критически важным данным или функциям», — подчеркивает Роджерс, отмечая, что такой подход является «лучшим курсом действий» для организации. Постоянно проверяя личность и применяя строгий контроль доступа, компании могут сократить поверхность атаки и ограничить потенциальный ущерб от скомпрометированных учетных записей.
Несмотря на то, что ИИ создает проблемы, он также предлагает мощные инструменты для обороны. Решения безопасности на основе искусственного интеллекта могут анализировать огромные объемы данных в режиме реального времени, выявляя аномалии и потенциальные угрозы, которые традиционные методы могут пропустить. Эти системы могут адаптироваться к новым шаблонам атак, обеспечивая динамическую защиту от кибератак на основе искусственного интеллекта.
Роджерс добавляет, что ИИ, как и системы киберзащиты, никогда не следует рассматривать как встроенную функцию. «Сейчас настало время для директоров по информационной безопасности и руководителей служб безопасности создавать системы с искусственным интеллектом с нуля», — говорит он. Интегрируя искусственный интеллект в свою инфраструктуру безопасности, организации могут повысить свои возможности по обнаружению инцидентов и быстрому реагированию на них, сокращая окно возможностей для злоумышленников.
2. Обучайте и обучайте сотрудников угрозам, связанным с искусственным интеллектом
Организации могут снизить риск внутренних уязвимостей, развивая культуру осведомленности о безопасности и предоставляя четкие рекомендации по использованию инструментов ИИ. Люди сложны, поэтому простые решения часто являются лучшими.
«Речь идет не только о смягчении последствий внешних атак. Это также обеспечивает ограждения для сотрудников, которые используют ИИ для своего собственного «чит-кода для повышения производительности», — говорит Роджерс.
Человеческая ошибка остается серьезной уязвимостью в кибербезопасности. По мере того, как фишинговые атаки и атаки социальной инженерии, генерируемые искусственным интеллектом, становятся все более убедительными, информирование сотрудников об этих развивающихся угрозах становится еще более важным. Регулярные тренинги могут помочь персоналу распознать подозрительные действия, такие как неожиданные электронные письма или запросы, которые отклоняются от обычных процедур.
3. Мониторинг и регулирование использования ИИ сотрудниками
Доступность технологий искусственного интеллекта привела к широкому внедрению в различных бизнес-функциях. Тем не менее, несанкционированное или неконтролируемое использование ИИ, часто называемое «теневым ИИ», может создать значительные риски для безопасности. Сотрудники могут непреднамеренно использовать приложения ИИ, в которых отсутствуют надлежащие меры безопасности, что приводит к потенциальным утечкам данных или проблемам с соблюдением нормативных требований.
«Мы не можем допустить, чтобы корпоративные данные свободно перемещались повсюду в несанкционированные среды искусственного интеллекта, поэтому необходимо найти баланс», — объясняет Роджерс. Внедрение политик, регулирующих инструменты ИИ, проведение регулярных аудитов и обеспечение соответствия всех приложений ИИ стандартам безопасности организации имеют важное значение для снижения этих рисков.
4. Сотрудничайте с экспертами по искусственному интеллекту и кибербезопасности
Сложность угроз, управляемых искусственным интеллектом, требует сотрудничества с экспертами, специализирующимися на искусственном интеллекте и кибербезопасности. Партнерство с внешними фирмами может предоставить организациям доступ к новейшей информации об угрозах, передовым защитным технологиям и специализированным навыкам, которые могут быть недоступны внутри компании.
Атаки на основе искусственного интеллекта требуют сложных контрмер, которых часто не хватает традиционным инструментам безопасности. Платформы обнаружения угроз с искусственным интеллектом, безопасные браузеры и элементы управления доступом с нулевым доверием анализируют поведение пользователей, обнаруживают аномалии и предотвращают несанкционированный доступ злоумышленников.
Роджерс подчеркивает, что инновационные решения для предприятий «являются недостающим звеном в системе безопасности с нулевым доверием. [Эти инструменты] обеспечивают глубокий, детальный контроль безопасности, который обеспечивает бесшовную защиту любого приложения или ресурса в общедоступных и частных сетях».
Эти инструменты используют машинное обучение для непрерывного мониторинга сетевой активности, выявления подозрительных закономерностей и автоматизации реагирования на инциденты, снижая риск проникновения в корпоративные системы атак, генерируемых искусственным интеллектом.