Непрекращающаяся погоня киберпреступников за кошками-мышками и кибербезопасностью продолжается, но на этот раз мы имеем дело с кибератаками, управляемыми искусственным интеллектом. Атаки, которые раньше использовали известные уязвимости, теперь могут сами находить новые и автоматически адаптироваться к ним. 2023 год стал прекрасным годом для ИИ, поскольку он стал более доступным для обычных пользователей. Однако, став более доступным и продвинутым, ИИ также позволил воспользоваться им людям с дурными намерениями. Резкий рост числа атак на основе искусственного интеллекта произошел, когда ChatGPT стал мейнстримом: с января по февраль 2023 года число атак на основе социальной инженерии с использованием искусственного интеллекта увеличилось на 135 %. Как владельца бизнеса, это должно сильно беспокоить, поскольку существующих решений по обеспечению безопасности может быть недостаточно. Безопасность вашего бизнеса, и особенно ваших сотрудников, чрезвычайно уязвима для сложных атак с использованием искусственного интеллекта. В этой статье я расскажу вам о том, что такое кибератаки с использованием искусственного интеллекта и какие меры безопасности вы можете предпринять для защиты своего бизнеса.
ИИ в руках киберпреступников
Атаки вредоносного ПО и другие попытки взлома систем обычно зависят от конкретных уязвимостей или прямого вмешательства хакера. Например, атаки с помощью социальной инженерии, для успешного проведения которых требуется много прямых взаимодействий и изучение исходных данных о цели. Однако ИИ делает этот процесс автономным, проводя исследование цели и соответствующим образом адаптируясь к атаке. Автоматизация и адаптивность – две основные причины, по которым атаки на основе ИИ так опасны. Например, вредоносные программы на базе ИИ могут сканировать поведение системы безопасности при обнаружении и вносить изменения в собственный код, чтобы избежать обнаружения. Это делает решения безопасности, которые зависят от предопределенных правил, устаревшими.
Кроме того, хакеры могут проводить масштабные сложные атаки, которые имеют высокий процент успеха, поскольку это не просто выстрелы в темноте. Каждая атака способна полностью проанализировать цель и адаптироваться к ней для достижения максимального успеха. Мало того, получив доступ, он еще и лучше использует устройство в своих интересах: создает стратегии “на месте”, генерирует поддельную информацию, отключает системы безопасности, обнаруживает среды “песочницы” и т. д. В целом, хакеры теперь могут проводить более сложные атаки в больших масштабах с минимальными усилиями. И это не предсказание: некоторые из атак уже произошли еще до того, как ИИ стал мейнстримом. Давайте посмотрим, какие типы атак уже на пороге:
Киберугрозы, основанные на искусственном интеллекте
День за днем появляются новые атаки с использованием искусственного интеллекта, и каждая из них более изощренная, чем предыдущая. Ниже я перечисляю некоторые киберугрозы с использованием ИИ, которые уже попали в новости:
Фишинговые атаки с использованием искусственного интеллекта
Уверен, вы догадываетесь, что больше не будете получать письма на ломаном английском с просьбой нажать на фишинговую ссылку. ИИ может писать безошибочные убедительные письма, которые также могут избегать папок со спамом, чтобы улучшить фишинговые схемы. Однако проблема даже не в этом, а в том, что более серьезной проблемой являются фишинговые атаки с использованием ИИ. Атака spear phishing – это тип атаки социальной инженерии, при которой используется персонализированное общение, чтобы убедить цель перейти по фишинговой ссылке. Однако ее очень сложно выполнить вручную, так как хакер должен сначала выбрать подходящую цель, а затем провести поиск информации о ней, чтобы начать убедительный разговор. ИИ делает все это автономным. Потенциально он может искать уязвимые цели, а затем запускать фоновый поиск с использованием профилей социальных сетей, таких как Facebook, X, LinkedIn и т. д., чтобы узнать о них больше. После этого вступить в персонализированный разговор, который будет выглядеть так, будто говорит человек, и предоставить убедительную причину для перехода по ссылке. Это не только увеличивает количество кликов, но и позволяет проводить масштабные атаки с минимальными усилиями. Исследования показывают, что фишинговые атаки с использованием искусственного интеллекта могут иметь более чем на 60 % более высокий процент переходов по ссылкам. Emotet – хороший пример вредоносного ПО, которое использовало искусственный интеллект, чтобы убедить пользователей переходить по ссылкам в письмах, и даже обладало функциями, подобными искусственному интеллекту, определяя сетевую инфраструктуру и создавая стратегии распространения.
Автоматизированная эксплуатация уязвимостей
Вредоносное ПО, использующее уязвимости в системе безопасности, встречается довольно часто, но обычно оно создается для использования конкретных типов уязвимостей. Поэтому вероятность того, что нужная вредоносная программа попадет в нужную уязвимую сеть/устройство, довольно мала. Однако с помощью искусственного интеллекта вредоносное ПО может сканировать и искать уязвимости в системе, сообщать о них или даже редактировать свой код, чтобы воспользоваться ими. Известно, что банда вымогателей REvil использовала искусственный интеллект для выявления уязвимостей в системах, а их успешная атака на Ирландскую службу здравоохранения во многом зависела от использования искусственного интеллекта.
Вишинг
Генеративный ИИ невероятно хорош в клонировании голосов: уже существует множество инструментов для клонирования голосов, позволяющих копировать голос и тембр любого человека. Конечно, такая технология не могла не стать частью вишинговых атак. Вишинг – это голосовые фишинговые атаки, когда злоумышленник напрямую звонит или оставляет голосовое сообщение, чтобы убедить цель передать информацию. С помощью искусственного интеллекта злоумышленник может звучать как знакомый вам человек, чтобы сделать атаку более убедительной: Например, финансовый директор вашей компании отправляет аудиосообщение с просьбой перевести деньги на определенный банковский счет. Голос и тон точно соответствуют финансовому директору, и он может сказать пару слов, чтобы сделать сообщение более личным. Я уверен, что многие сотрудники на это купятся, а искусственный интеллект легко справится с этой задачей.
Мошенничество с видеороликами Deepfake
Как и в случае с клонированием голоса, мошенничество с поддельными видео еще хуже. Поддельные видео – это реалистичные видеоролики с участием человека, чьи видео, изображения и голосовые аудиозаписи легко доступны. Хакеры могут создать очень убедительное видео deepfake и выдать себя за важного человека, чтобы воспользоваться им. Хотя в настоящее время в прессе не появлялись заголовки об успешных мошенничествах с использованием deepfake, направленных на бизнес, в СМИ неоднократно появлялась информация о подделках известных личностей. Я уверен, что многие из вас знают о видеороликах с глубокими подделками президентов Украины и России. Это показывает, как легко ваша компания тоже может стать мишенью, и ожидается, что мошенничество с подделками станет следующей большой проблемой в области кибербезопасности.
Ботнеты, управляемые искусственным интеллектом
ИИ может сыграть множество полезных ролей в скоординированных атаках ботнетов, таких как DDoS, вброс учетных данных или соскабливание веб-сайтов. Это и поиск уязвимых целей, и избегание обнаружения, и постоянное перемещение C&C-серверов, и координация общей атаки. Атака на Microsoft Azure – хороший пример того, как ботнеты с искусственным интеллектом генерировали динамические домены для проведения скоординированной атаки.
Как защитить свой бизнес?
Принимая во внимание вышеизложенную информацию, вы можете увидеть, что ваш бизнес сейчас более уязвим. Ниже приводится краткая информация о том, как это повлияет на вас:
- Автоматизированные крупномасштабные атаки: ИИ позволяет проводить масштабные атаки с минимальными усилиями, а это значит, что больше людей и предприятий подвергаются риску. Это повышает общий риск того, что вы станете следующей целью.
- ИИ адаптивен: ИИ может адаптироваться к мерам безопасности в режиме реального времени, поэтому традиционные правила и защита на основе сигнатур не помогут.
- ИИ может находить уязвимые цели: Если ваш бизнес не оснащен новейшими решениями по безопасности, он может стать приоритетной уязвимой мишенью.
- Сотрудники более уязвимы: Сложные фишинговые атаки с использованием искусственного интеллекта и аудио- и видеомошенничество с глубокой подделкой напрямую используют уязвимость человека; никакие системы безопасности не смогут это исправить.
Можно предположить, что традиционных средств защиты бизнеса будет недостаточно для защиты от этих кибератак с использованием искусственного интеллекта. Ниже перечислены меры безопасности, которые вы можете предпринять для повышения уровня защиты вашего бизнеса.
Используйте правильное приложение для защиты
С огнем нужно бороться огнем, поэтому для борьбы с кибератаками, совершаемыми искусственным интеллектом, необходимо использовать решения по кибербезопасности на базе искусственного интеллекта. Существует множество мощных платформ кибербезопасности на базе ИИ, которые могут защитить ваш бизнес со всех сторон. Ниже я перечисляю лучшие из них в каждой категории.
- CrowdStrike Falcon: Компания CrowdStrike известна тем, что создает свои продукты на основе искусственного интеллекта, и CrowdStrike Falcon – один из лучших инструментов защиты конечных точек на основе искусственного интеллекта, который активно ищет угрозы с помощью обнаружения поведения.
- Darktrace: Универсальная система обнаружения поведения ИИ в реальном времени для защиты приложений, сетей, облаков, коммуникаций и многого другого.
- Recorded Future: Это инструмент анализа угроз, который позволяет вашему бизнесу быть в курсе последних угроз по мере их возникновения.
- VMware NSX: помогает создавать микросегменты виртуальной сети с помощью искусственного интеллекта для предотвращения свободного перемещения злоумышленников.
- Okta Adaptive MFA: Okta предлагает решение для многофакторной аутентификации на основе искусственного интеллекта, которое адаптируется к поведению пользователя и другим обстоятельствам, чтобы обеспечить более высокую безопасность входа.
- Zscaler: Приложение для сетевого доступа с нулевым уровнем доверия (ZTNA), которое имеет множество решений по обеспечению безопасности для защиты доступа к данным и сети даже для авторизованных пользователей.
Обучение и подготовка сотрудников
Сотрудники – самая уязвимая часть вашего бизнеса. Какой бы сильной ни была ваша система безопасности, если сотрудника обманом заставят предоставить доступ к данным, она окажется бесполезной. Вам необходимо правильно обучить сотрудников киберугрозам ИИ, включая попытки фишинга, атаки социальной инженерии и глубокие подделки. Вы также можете воспользоваться услугами по обучению сотрудников кибербезопасности, которые охватывают и кибербезопасность ИИ. KnowBe4 – надежный сервис для этой цели. У них есть множество курсов, посвященных фишингу, выкупным программам, подмене доменов и другим кибератакам. Я также рекомендую вам использовать антифишинговый инструмент для сотрудников, чтобы автоматически обнаруживать попытки фишинга с помощью искусственного интеллекта. У компании Vade есть хорошее решение для защиты от фишинга на основе искусственного интеллекта, которое также обнаруживает фишинговые атаки с использованием искусственного интеллекта.
Обнаружение глубоких подделок
Обучение сотрудников поможет обнаружить атаки deepfake. Вот хорошее руководство по обнаружению подделок, которое поможет в этом. Однако есть и инструменты, которые могут обнаруживать подделки автоматически. Я рекомендую вам попробовать Sensity. Он с высокой точностью обнаруживает подделки, будь то аудио, видео или изображение.
План реагирования на инциденты
Будьте проактивны, а не реактивны. Убедитесь, что у вас есть план реагирования на угрозы по мере их возникновения. Некоторые из перечисленных выше инструментов, например VMware NSX или CrowdStrike Falcon, помогут вам минимизировать ущерб после начала атаки. Ваши сотрудники также должны быть обучены тому, как незамедлительно действовать в соответствии с планом при обнаружении угрозы. Я рекомендую проводить учения “красной команды “, чтобы проверить, насколько хороша ваша текущая система безопасности, и улучшить ее в соответствии с полученными результатами.
Подведение итогов
Кибератаки с использованием ИИ, несомненно, будут расти, поскольку они позволяют легко проводить масштабные атаки. Кроме того, разработка ИИ быстро совершенствуется, а значит, атаки на основе ИИ будут становиться все более изощренными. Честно говоря, меня больше беспокоит, когда атаки ИИ сфокусируются на Интернете вещей (IoT) и нанесут масштабный ущерб. Наряду с вышеперечисленными мерами защиты обязательно следите за последними событиями в мире кибербезопасности ИИ, чтобы адаптироваться к предстоящим угрозам.
