Непрекращающаяся погоня киберпреступников и кибербезопасности за кошками-мышками продолжается, но на этот раз мы имеем дело с кибератаками, управляемыми искусственным интеллектом. Атаки, которые раньше использовали известные уязвимости, теперь могут сами находить новые и автоматически адаптироваться к ним.
2023 год стал отличным годом для ИИ, поскольку он стал более доступным для обычных пользователей. Однако, став более доступным и продвинутым, ИИ также позволил людям со злыми намерениями воспользоваться им.
Резкий рост числа атак на основе ИИ наблюдался, когда ChatGPT стал мейнстримом: с января по февраль 2023 года число атак социальной инженерии на основе ИИ увеличилось на 135%.
Как владельца бизнеса, это должно сильно беспокоить, поскольку ваших текущих решений безопасности может быть недостаточно. Безопасность вашего бизнеса, и особенно ваших сотрудников, чрезвычайно уязвима для сложных атак с использованием искусственного интеллекта.
В этой статье я расскажу вам о том, что такое кибератаки с использованием ИИ и какие меры безопасности вы можете предпринять для защиты своего бизнеса.
ИИ в руках киберпреступников
Атаки вредоносного ПО и другие попытки компрометации систем обычно зависят от конкретных уязвимостей или прямого вмешательства хакера. Например, атаки с использованием социальной инженерии, для успеха которых требуется много прямых взаимодействий и изучение исходных данных о цели. Однако ИИ делает этот процесс автономным, проводя исследование цели и соответствующим образом адаптируясь к атаке.
Автоматизация и адаптивность – две основные причины, по которым атаки на основе ИИ так опасны. Например, вредоносные программы на базе ИИ могут сканировать поведение системы безопасности при обнаружении и вносить изменения в собственный код, чтобы избежать обнаружения. Это делает решения безопасности, которые зависят от заранее заданных правил, устаревшими.
Кроме того, хакеры могут проводить масштабные сложные атаки, которые имеют высокий процент успеха, поскольку это не просто выстрелы в темноте. Каждая атака способна полностью проанализировать цель и адаптироваться к ней для достижения максимального успеха.
Кроме того, получив доступ к устройству, хакер может использовать его в своих интересах: создавать стратегии “на месте”, генерировать поддельную информацию, отключать системы безопасности, обнаруживать среды “песочницы” и т. д.
В общем, хакеры теперь могут проводить более изощренные атаки в больших масштабах с минимальными усилиями. И это не предсказание: некоторые из атак уже произошли еще до того, как ИИ стал мейнстримом. Давайте посмотрим, какие типы атак уже на пороге:
Киберугрозы с использованием ИИ
День за днем появляются новые атаки с использованием ИИ, и каждая из них более изощренная, чем предыдущая. Ниже я перечисляю некоторые из киберугроз с использованием ИИ, которые уже попали в новости:
#1. Фишинговые атаки с использованием искусственного интеллекта
Уверен, вы догадываетесь, что больше не будете получать письма на ломаном английском, в которых вас просят нажать на фишинговую ссылку. ИИ может писать безошибочные убедительные письма, которые также могут избегать папок со спамом, чтобы улучшить фишинговые схемы. Однако проблема даже не в этом, а в том, что с помощью ИИ можно совершать фишинговые атаки.
Копьевая фишинговая атака – это тип атаки социальной инженерии, при которой используется персонализированное общение, чтобы убедить цель перейти по фишинговой ссылке. Однако вручную это сделать очень сложно, поскольку хакеру необходимо сначала выбрать подходящую цель, а затем провести поиск информации о ней, чтобы начать убедительный разговор.
ИИ делает все это автономным. Потенциально он может искать уязвимые цели, а затем проводить фоновый поиск с использованием профилей социальных сетей, таких как Facebook, X, LinkedIn и т. д., чтобы узнать о них больше. Затем завязать персонализированный разговор, который будет выглядеть так, будто говорит человек, и дать убедительную причину для перехода по ссылке.
Это не только увеличивает количество переходов по ссылкам, но и позволяет проводить масштабные атаки с минимальными усилиями. Исследования показывают, что фишинговые атаки с использованием искусственного интеллекта могут увеличить количество переходов по ссылкам более чем на 60%.
Emotet – хороший пример вредоносного ПО, которое использовало ИИ, чтобы убедить пользователей нажимать на ссылки в письмах, и даже обладало функциями, подобными ИИ, определяя сетевую инфраструктуру и создавая стратегии для распространения.
#2. Автоматизированная эксплуатация уязвимостей
Вредоносное ПО, использующее уязвимости в системе безопасности, встречается довольно часто, но обычно оно создается для эксплуатации конкретных типов уязвимостей. Поэтому вероятность того, что нужная вредоносная программа попадет в нужную уязвимую сеть/устройство, довольно мала. Однако с помощью искусственного интеллекта вредоносное ПО может сканировать и искать уязвимости в системе, сообщать о них или даже редактировать свой код, чтобы использовать их в своих интересах.
Известно, что банда вымогателей REvil использовала ИИ для выявления уязвимостей в системах, а их успешная атака на Ирландскую службу здравоохранения во многом зависела от использования ИИ.
#3. Вишинг (Vishing)
Генеративный ИИ невероятно хорош в клонировании голосов, уже существует множество инструментов для клонирования голосов, которые позволяют скопировать голос и интонацию любого человека. Разумеется, такая технология должна была стать частью вишинговых атак.
Вишинг (Vishing) – это голосовые фишинговые атаки, когда злоумышленник напрямую звонит или оставляет голосовое сообщение, чтобы убедить цель передать информацию. С помощью искусственного интеллекта злоумышленник может представиться кем-то из ваших знакомых, чтобы сделать атаку более убедительной:
Например, финансовый директор вашей компании отправляет аудиосообщение с просьбой перевести деньги на определенный банковский счет. Голос и тон в точности соответствуют финансовому директору, и он может сказать пару слов, чтобы сделать сообщение более личным. Я уверен, что многие сотрудники на это купятся, а ИИ легко справится с этой задачей.
#4. Афера с поддельными видео
Как и в случае с клонированием голоса, мошенничество с поддельными видео еще хуже. Поддельные видеоролики – это реалистичные видеоролики с участием людей, чьи видео, изображения и голосовые аудиозаписи легко доступны. Хакеры могут создать очень убедительное видео deepfake и выдать себя за важного человека, чтобы использовать его в своих интересах.
Несмотря на то, что в настоящее время в прессе не появлялись заголовки об успешных мошенничествах с использованием deepfake, направленных на бизнес, в СМИ уже неоднократно появлялись сообщения о подделках известных личностей. Я уверен, что многие из вас знают о видеороликах с подделками президентов Украины и России. Это показывает, как легко ваша компания тоже может стать мишенью, и ожидается, что мошенничество с подделками станет следующей большой проблемой кибербезопасности.
#5. Ботнеты, управляемые искусственным интеллектом
ИИ может сыграть множество полезных ролей в скоординированных атаках ботнетов, таких как DDoS, вброс учетных данных или соскабливание веб-сайтов. Это и поиск уязвимых целей, и избегание обнаружения, и постоянное перемещение C&C-серверов, и координация общей атаки.
Атака на Microsoft Azure – хороший пример того, как ботнеты с искусственным интеллектом генерировали динамические домены для проведения скоординированной атаки.
Как защитить свой бизнес?
Принимая во внимание вышеизложенную информацию, вы можете увидеть, что ваш бизнес сейчас более уязвим. Ниже приводится краткая информация о том, как это может повлиять на вас:
- Автоматизированные крупномасштабные атаки: ИИ позволяет проводить масштабные атаки с минимальными усилиями, а это значит, что больше людей и предприятий подвергаются риску. Это повышает общий риск того, что вы станете следующей целью.
- ИИ адаптивен: ИИ может адаптироваться к мерам безопасности в режиме реального времени, поэтому традиционные правила и защита на основе сигнатур не помогут.
- ИИ может находить уязвимые цели: ИИ может находить уязвимые цели путем масштабного поиска. Если ваш бизнес не оснащен новейшими решениями безопасности, он может стать приоритетной уязвимой целью.
- Сотрудники становятся более уязвимыми: Сложные фишинговые атаки с использованием искусственного интеллекта и глубокие поддельные аудио- и видеомошенничества напрямую используют уязвимость человека; никакие системы безопасности не смогут это исправить.
Можно предположить, что традиционных средств защиты бизнеса будет недостаточно для защиты от этих кибератак с использованием ИИ. Ниже перечислены меры безопасности, которые вы можете предпринять для повышения уровня защиты вашего бизнеса.
#1. Используйте правильное приложение для защиты
С огнем нужно бороться огнем, поэтому для борьбы с кибератаками на базе ИИ вам необходимо использовать решения по кибербезопасности на базе ИИ. Существует множество мощных платформ кибербезопасности на базе ИИ, которые могут защитить ваш бизнес со всех сторон. Ниже я перечисляю лучшие из них в каждой категории.
- CrowdStrike Falcon: CrowdStrike известна тем, что создает свои продукты на основе искусственного интеллекта, и CrowdStrike Falcon – один из лучших инструментов защиты конечных точек на основе искусственного интеллекта, который активно ищет угрозы с помощью обнаружения поведения.
- Darktrace: Универсальная система обнаружения поведения в реальном времени на основе искусственного интеллекта для защиты приложений, сетей, облака, коммуникаций и многого другого.
- Recorded Future: Инструмент анализа угроз, позволяющий отслеживать последние угрозы по мере их появления.
- VMware NSX: помогает создавать микросегменты виртуальных сетей с помощью искусственного интеллекта для предотвращения свободного перемещения злоумышленников.
- Okta Adaptive MFA: Okta предлагает решение для многофакторной аутентификации на основе искусственного интеллекта, которое адаптируется к поведению пользователя и другим обстоятельствам, обеспечивая повышенную безопасность входа в систему.
- Zscaler: Приложение для сетевого доступа с нулевым уровнем доверия (ZTNA), которое имеет множество решений по обеспечению безопасности для защиты доступа к данным и сети даже для авторизованных пользователей.
#2. Обучение и подготовка сотрудников
Сотрудники – самая уязвимая часть вашего бизнеса. Какой бы сильной ни была ваша система безопасности, если сотрудника обманом заставят предоставить доступ к данным, она окажется бесполезной. Вам необходимо правильно обучить сотрудников киберугрозам ИИ, включая попытки фишинга, атаки социальной инженерии и глубокие подделки.
Вы также можете воспользоваться услугами по обучению сотрудников кибербезопасности, которые охватывают и кибербезопасность ИИ. KnowBe4 – надежный сервис для этих целей. У них есть множество курсов, посвященных фишингу, выкупным программам, подмене доменов и другим кибератакам.
Я также рекомендую вам использовать антифишинговый инструмент для сотрудников, чтобы автоматически обнаруживать попытки фишинга с помощью ИИ. У компании Vade есть хорошее антифишинговое решение, которое обнаруживает фишинговые атаки, основанные на искусственном интеллекте.
#3. Обнаружение подделок
Обучение сотрудников помогает обнаружить атаки с использованием подделок. Вот хорошее руководство по обнаружению подделок, которое поможет в этом. Однако есть и инструменты, которые могут обнаруживать подделки автоматически. Я рекомендую вам попробовать Sensity. Он с высокой точностью обнаруживает подделки, будь то аудио, видео или изображения.
#4. План реагирования на инциденты
Будьте проактивны, а не реактивны. Убедитесь, что у вас есть план реагирования на угрозы по мере их возникновения. Некоторые из перечисленных выше инструментов, например VMware NSX или CrowdStrike Falcon, помогут вам минимизировать ущерб после начала атаки.
Ваши сотрудники также должны быть обучены тому, как действовать в соответствии с планом сразу же после обнаружения угрозы. Я рекомендую проводить учения “красной команды “, чтобы проверить, насколько хороша ваша текущая система безопасности, и улучшить ее в соответствии с полученными результатами.
Подведение итогов 🤖⚠️
Кибератаки с использованием ИИ, несомненно, будут расти, поскольку они позволяют легко проводить масштабные атаки. Кроме того, разработка ИИ быстро совершенствуется, а значит, атаки на основе ИИ будут становиться все более изощренными. Честно говоря, меня больше беспокоит, когда атаки ИИ будут направлены на Интернет вещей (IoT) и приведут к широкомасштабному ущербу.
Наряду с вышеперечисленными мерами защиты обязательно следите за последними событиями в мире кибербезопасности ИИ, чтобы адаптироваться к предстоящим угрозам.
Перевод авторского исследования об ИИ киберугрозах от Karrar Haider и Narendra Mohan Mittal
