Почему инструменты безопасности на основе искусственного интеллекта — ваше секретное оружие против атак завтрашнего дня

В гонке вооружений в области кибербезопасности у вас есть доступ к тому же оружию, что и у плохих парней. Насколько хорошо вы сейчас вооружены?

Старая поговорка о киберзащите гласит, что злоумышленник должен найти только одну слабость или эксплойт, а защищающийся должен защищаться от всего. Когда речь идет о кибербезопасности, проблема ИИ заключается в том, что это гонка вооружений, в которой возможности ИИ оружейного уровня доступны как злоумышленникам, так и обороняющимся.

Cisco — одна из крупнейших в мире сетевых компаний. Таким образом, она находится на переднем крае защиты от кибератак на основе искусственного интеллекта.

В этом эксклюзивном интервью ZDNET встретился с вице-президентом Cisco по продуктам искусственного интеллекта Анандом Рагхаваном, чтобы обсудить, как инструменты на основе искусственного интеллекта революционизируют кибербезопасность и расширяют возможности атак организаций.

ZDNET: Не могли бы вы вкратце представить себя и описать свою роль в Cisco?

Ананд Рагхаван: Меня зовут Ананд Рагхаван, я вице-президент по продуктам и искусственному интеллекту в группе программного обеспечения и платформ искусственного интеллекта в Cisco. Мы работаем с командами разработчиков Cisco над созданием инновационных и безопасных продуктов на базе искусственного интеллекта для наших клиентов.

В недавнем прошлом мы выпустили два продукта: Cisco AI Assistant, который позволяет нашим клиентам легко взаимодействовать с нашими продуктами с помощью естественного языка, и Cisco AI Defense, который обеспечивает безопасное и надежное использование искусственного интеллекта для сотрудников и облачных приложений, которые организации создают для своих клиентов.

ZDNET: Как искусственный интеллект меняет природу угроз, с которыми предприятия и правительства сталкиваются на сетевом уровне?

AR: AI полностью изменил правила игры в области сетевой безопасности, позволив хакерам запускать более сложные и менее трудоемкие атаки. Они используют автоматизацию для запуска более персонализированных и эффективных фишинговых кампаний, а это означает, что сотрудники с большей вероятностью могут попасться на попытки фишинга.

Мы видим вредоносное ПО, которое использует искусственный интеллект для адаптации, чтобы избежать обнаружения традиционными инструментами сетевой безопасности. По мере того как инструменты ИИ становятся все более распространенными, они расширяют поверхность атаки, с которой должны справляться команды безопасности, и усугубляют существующую проблему теневых ИТ.

Точно так же, как компании имеют доступ к искусственному интеллекту для создания новых и интересных приложений, злоумышленники имеют доступ к тем же наборам технологий для создания новых атак и угроз. Как никогда важно использовать последние достижения в области искусственного интеллекта, чтобы иметь возможность выявлять эти новые виды угроз и автоматизировать устранение этих угроз.

Будь то вредоносные соединения, которые могут быть остановлены в режиме реального времени в зашифрованном домене наших брандмауэров с помощью нашей технологии Encrypted Visibility Engine, или наши языковые детекторы мошеннических электронных писем в нашем продукте Email Threat Defense, стало крайне важно понимать новую поверхность атак угроз и способы защиты от них.

С появлением приложений искусственного интеллекта, ориентированных на клиентов, модели и связанные с ними уязвимости стали новыми критически важными поверхностями атак. Модели ИИ могут стать мишенью для угроз. Оперативное внедрение атак или атак типа «отказ в обслуживании» может привести к непреднамеренной утечке конфиденциальных данных. Индустрия безопасности быстро отреагировала на это и внедрила искусственный интеллект в решения для выявления необычных закономерностей и обнаружения подозрительной сетевой активности. Но это гонка за то, чтобы быть на шаг впереди.

ZDNET: Как инструменты на основе искусственного интеллекта помогают предприятиям опережать все более изощренных киберпротивников?

АР: В условиях меняющегося ландшафта угроз инструменты безопасности на основе искусственного интеллекта обеспечивают непрерывный и самооптимизирующийся мониторинг в масштабах, с которыми не может сравниться ручной мониторинг.

Используя искусственный интеллект, команда безопасности может анализировать данные из различных источников по всей экосистеме компании и обнаруживать необычные шаблоны или подозрительный трафик, которые могут указывать на утечку данных. Поскольку ИИ анализирует эти данные быстрее, чем люди, организации могут реагировать на инциденты практически в режиме реального времени, чтобы смягчить потенциальные угрозы.

Когда дело доходит до мониторинга и обнаружения угроз, ИИ предлагает специалистам по безопасности сценарий «лучше вместе», в котором специалисты получают видимость и время отклика с помощью ИИ, чего они не смогли бы достичь в одиночку.

В мире, где опытных аналитиков высшего уровня уровня Tier 3 в SOC [центре управления безопасностью] найти сложнее, ИИ может стать неотъемлемой частью стратегии организации по оказанию помощи аналитикам Tier 1 и Tier 2 в их работе и значительно сократить среднее время устранения любых новых обнаруженных инцидентов и угроз.

Автоматизация рабочих процессов для XDR [расширенное обнаружение и реагирование] с использованием искусственного интеллекта поможет предприятиям опережать киберпреступников.

ZDNET: Расскажите об AI Defense и о том, какую основную проблему она призвана решить?

АР: Когда вы думаете о том, как быстро люди внедряют приложения ИИ, это зашкаливает. Однако в организациях разработка и внедрение ИИ продвигается не так быстро, как могло бы быть, потому что люди все еще не уверены в его безопасности или не уверены, что смогут обеспечить его безопасность.

Согласно индексу готовности к искусственному интеллекту Cisco за 2024 год, только 29% организаций чувствуют себя полностью подготовленными к обнаружению и предотвращению несанкционированного вмешательства в ИИ. Компании не могут позволить себе рисковать безопасностью, действуя слишком быстро, но они также не могут рисковать тем, что их обойдут конкуренты из-за того, что они не приняли ИИ.

AI Defense обеспечивает и защищает трансформацию ИИ на предприятиях, поэтому им не нужно идти на этот компромисс. В будущем появятся AI-компании и компании, которые не будут актуальны.

Если рассматривать эту проблему на высоком уровне, то ИИ создает два всеобъемлющих риска для предприятия. Во-первых, это риск раскрытия конфиденциальных данных из-за неправомерного использования сотрудниками сторонних инструментов искусственного интеллекта. Любая интеллектуальная собственность или конфиденциальная информация, передаваемая несанкционированному приложению ИИ, может быть украдена и использована.

Второй риск связан с тем, как компании разрабатывают и внедряют собственные приложения ИИ. Модели ИИ должны быть защищены от таких угроз, как оперативные инъекции или отравление обучающих данных, чтобы они продолжали работать так, как задумано, и быть безопасными для использования клиентами.

Cisco AI Defense устраняет обе области рисков, связанных с ИИ. Наше решение AI Access дает специалистам по безопасности полное представление об используемых сторонних приложениях ИИ и позволяет им устанавливать политики, ограничивающие обмен конфиденциальными данными или ограничивающие доступ к несанкционированным инструментам.

Для компаний, разрабатывающих собственные приложения искусственного интеллекта, AI Defense использует технологию алгоритмической красной команды для автоматизации оценки уязвимостей моделей.

После выявления этих рисков за считанные секунды AI Defense предоставляет защитные ограничения во время выполнения, чтобы защитить приложения ИИ от таких угроз, как оперативные внедрения, извлечение данных и отказ в обслуживании в режиме реального времени.

ZDNET: Чем AI Defense отличается от существующих систем безопасности?

А.Р.: Безопасность ИИ — это новая масштабная задача, с которой предприятия только начинают сталкиваться. В конце концов, ИИ принципиально отличается от традиционных приложений, и существующие структуры безопасности не обязательно применяются таким же образом.

AI Defense специально разработан для защиты предприятий от рисков, связанных с использованием и разработкой приложений ИИ. Наше решение основано на собственных моделях искусственного интеллекта Cisco с двумя основными принципами: непрерывная проверка ИИ и масштабируемая защита.

Когда дело доходит до защиты традиционных приложений, компании используют красную команду специалистов по безопасности, чтобы попытаться взломать приложение и найти уязвимости. Этот подход даже близко не обеспечивает масштаба, необходимого для проверки недетерминированных моделей ИИ. Вам понадобятся команды из тысяч человек, работающие неделями.

Вот почему AI Defense использует алгоритмическое решение Red Teaming, которое постоянно отслеживает уязвимости и рекомендует меры предосторожности при их обнаружении. Платформенный подход Cisco к безопасности означает, что эти ограждения распределены по всей сети, и команда безопасности получает полную видимость своего ИИ.

ZDNET: Каково видение Cisco в отношении интеграции AI Defense с более широкими корпоративными стратегиями безопасности?

АР: Индекс готовности к искусственному интеллекту Cisco за 2024 год показал, что, хотя организации сталкиваются с растущим давлением в связи с внедрением ИИ, большинство организаций все еще не готовы использовать потенциал ИИ, а многие из них недостаточно осведомлены о рисках безопасности ИИ.

С помощью таких решений, как AI Defense, Cisco позволяет организациям раскрыть преимущества искусственного интеллекта и сделать это безопасно. Cisco AI Defense предназначена для решения проблем безопасности в многооблачном и многомодельном мире, в котором работают организации.

Это дает специалистам по безопасности возможность видеть и контролировать приложения ИИ и обеспечивает удобство для разработчиков, экономя их время и ресурсы, чтобы они могли сосредоточиться на инновациях.

Когда организация стремится внедрить ИИ как для сотрудников, так и для создания приложений, ориентированных на клиентов, их жизненный цикл включает следующие этапы:

1. Наглядность: понимание того, какие инструменты используются сотрудниками или какие модели развертываются в их облачных средах.
2. Проверка:Мониторинг и проверка моделей, работающих в их облачных средах, оценка их уязвимостей и выявление защитных ограничений в качестве компенсирующих средств контроля для этих уязвимостей.
3. Защита во время выполнения: когда эти модели развертываются в рабочей среде, отслеживайте все запросы и ответы и применяйте ограничения безопасности, защищенности, конфиденциальности и релевантности к этим запросам и ответам, чтобы гарантировать, что их клиенты имеют безопасную и надежную работу при взаимодействии с этими облачными приложениями.

Это основные области, которые AI Defense поддерживает в рамках своих возможностей. Принудительное применение может осуществляться в продукте Secure Access или SASE [secure access service edge] для защиты сотрудников, а принудительное применение в облачных приложениях может осуществляться в приложении Cloud Protection Suite, таком как Cisco Multicloud Defense.

ZDNET: Какие стратегии должны использовать предприятия, чтобы снизить риски состязательных атак на системы ИИ?

AR: Приложения искусственного интеллекта представляют новый класс рисков безопасности в технологическом стеке организации. В отличие от традиционных приложений, приложения ИИ включают в себя модели, которые являются непредсказуемыми и недетерминированными. Когда модели ведут себя не так, как должны, это может привести к галлюцинациям и другим непредвиденным последствиям. Модели также могут стать жертвами таких атак, как отравление обучающими данными, быстрое внедрение и джейлбрейк.

Как создатели моделей, так и разработчики будут иметь уровни безопасности для моделей ИИ, но в многооблачной и многомодельной системе стандарты безопасности будут несогласованными. Чтобы защититься от вмешательства в работу ИИ и риска утечки данных, организациям необходим общий субстрат безопасности для всех облаков, приложений и моделей.

Это становится еще более важным, когда у вас есть фрагментированная подотчетность между заинтересованными сторонами — создателями моделей, разработчиками приложений, командами по управлению, рискам и соответствию требованиям.

Жизненно важным становится наличие общего субстрата с точки зрения продукта безопасности ИИ, который может контролировать и применять правильный набор ограждений, защищающих все категории безопасности ИИ, как указано в таких стандартах, как MITRE ATLAS и OWASP LLM10 и NIST RMF.

ZDNET: Не могли бы вы поделиться реальным сценарием или тематическим исследованием, в котором AI Defense может предотвратить критическое нарушение безопасности?

АР: Как я уже упоминал, AI Defense охватывает две основные области корпоративных рисков ИИ: использование сторонних инструментов ИИ и разработку новых приложений ИИ. Давайте рассмотрим сценарии инцидентов для каждого из этих вариантов использования.

В первом сценарии сотрудник делится информацией о некоторых ваших клиентах с несанкционированным ИИ-помощником для помощи в подготовке презентации. Эти конфиденциальные данные могут быть кодифицированы в данных повторного обучения ИИ, что означает, что они могут быть переданы другим публичным пользователям. AI Defense может ограничить обмен данными или полностью ограничить доступ к несанкционированному инструменту, снижая риск того, что в противном случае было бы разрушительным нарушением конфиденциальности.

Во втором сценарии разработчик ИИ использует базовую модель с открытым исходным кодом для создания помощника по обслуживанию клиентов ИИ. Они точно настраивают его на актуальность, но непреднамеренно ослабляют его встроенные ограждения. В течение нескольких дней он галлюцинирует неправильные реакции и становится более восприимчивым к атакам противника. Благодаря непрерывному мониторингу и тестированию уязвимостей AI Defense будет выявлять недостатки в модели и автоматически применять предпочитаемые вами ограждения.

ZDNET: Какие новые тенденции в области безопасности искусственного интеллекта вы прогнозируете, чтобы сформировать будущее кибербезопасности?

АР: Одним из важнейших аспектов ИИ в области безопасности является то, что мы наблюдаем сокращение времени использования эксплойтов. Специалисты по безопасности имеют более короткий промежуток времени, чем когда-либо, между обнаружением уязвимости и ее использованием злоумышленниками.

По мере того как искусственный интеллект делает киберпреступников быстрее, а их атаки более эффективными, организациям становится все более насущной необходимость быстро обнаруживать и устранять уязвимости. Искусственный интеллект может значительно ускорить обнаружение уязвимостей, чтобы команды безопасности могли реагировать в режиме реального времени.

Дипфейки станут серьезной проблемой безопасности в течение следующих пяти лет. Во многих отношениях индустрия безопасности только готовится к дипфейкам и способам защиты от них, но это будет критически важной областью уязвимости и риска для организаций.

Точно так же, как атаки типа «отказ в обслуживании» были серьезной проблемой 10 лет назад, а программы-вымогатели стали критической угрозой в последние годы, дипфейки не дадут спать по ночам многим специалистам по безопасности.

ZDNET: Как правительства и предприятия могут сотрудничать для создания надежных стандартов безопасности ИИ?

АР: Работая вместе, правительства и частный сектор могут получить доступ к обширному пулу знаний и широкому спектру точек зрения для разработки передовых практик в быстро меняющемся ландшафте рисков ИИ и безопасности.

В прошлом году Cisco сотрудничала с Агентством по кибербезопасности и безопасности инфраструктуры (CISA) Joint Cyber Defense Collaborative (JCDC), в котором приняли участие лидеры отрасли из крупнейших технологических компаний, таких как OpenAI, Amazon, Microsoft и Nvidia, а также правительственных учреждений для сотрудничества с целью повышения коллективной способности организаций реагировать на инциденты безопасности, связанные с искусственным интеллектом.

Мы приняли участие в командно-штабных учениях и совместно работали над недавно выпущенным «Пособием по сотрудничеству в связи с инцидентами безопасности ИИ», которое представляет собой руководство по сотрудничеству между правительством и частным сектором.

В нем содержатся практические, действенные советы по реагированию на инциденты безопасности, связанные с ИИ, и рекомендации по добровольному обмену информацией, связанной с уязвимостями, связанными с системами ИИ.

Вместе правительство и частный сектор могут повысить осведомленность о рисках безопасности, с которыми сталкивается эта критически важная технология.

ZDNET: Как, по вашему мнению, искусственный интеллект преодолевает разрыв между предотвращением кибератак и реагированием на инциденты?

АР: Мы уже видим, как решения безопасности с поддержкой искусственного интеллекта обеспечивают непрерывный и масштабируемый мониторинг, который помогает командам безопасности обнаруживать подозрительную сетевую активность и уязвимости.

Мы находимся на этапе, когда искусственный интеллект является бесценным инструментом, который дает специалистам по безопасности лучшую видимость и рекомендации о том, как реагировать на инциденты безопасности.

В конце концов, мы достигнем точки, когда ИИ сможет автоматически развертывать и внедрять исправления безопасности под наблюдением специалиста по безопасности человека. В двух словах, преимущества заключаются в непрерывности (постоянный мониторинг), масштабируемости (по мере роста поверхности атаки ИИ помогает вам управлять ею), точности (ИИ может обнаруживать даже более тонкие индикаторы, которые человек может пропустить) и скорости (быстрее, чем ручная проверка).

Вы готовы?

Искусственный интеллект трансформирует кибербезопасность, но действительно ли предприятия готовы к рискам, которые он несет? Сталкивались ли вы с киберугрозами, связанными с искусственным интеллектом, в своей организации?

Считаете ли вы, что решения безопасности на основе искусственного интеллекта могут опережать все более изощренные атаки? Как вы видите баланс между ИИ как инструментом безопасности и потенциальной уязвимостью?

Достаточно ли делают компании для защиты своих моделей ИИ от эксплуатации? Дайте нам знать в комментариях ниже.