2025 год можно называть годом ИИ: каждое обновление нейросетей все больше впечатляет, растет количество сценариев, где они получают применение.
Кибербезопасность — не исключение, и здесь в зависимости от ракурса ситуация может показаться и тревожной, и воодушевляющей.
Период «кустарных» атак уходит в прошлое. На смену ему приходит эра автоматизированных, адаптивных и целевых операций. Злоумышленники больше не полагаются лишь на стандартный набор утилит и ручной труд. Они делегируют сложнейшие задачи — от социальной инженерии до создания вредоносного кода — алгоритмам, способным учиться, эволюционировать и подстраиваться под среду.
Атаки, на подготовку которых уходили недели, теперь могут быть запущены за часы. Угрозы становятся настолько персонализированными и нетипичными, что традиционные методы защиты часто видят в них просто «белый шум».
Специалисты по информационной безопасности тоже используют ИИ-арсенал, чтобы отражать новые угрозы. Продвинутый поведенческий анализ, умные SIEM и прочие похожие инструменты все больше входят в практику. Эксперты отрасли рассказали Cyber Media, как именно ИИ перекраивает ландшафт киберугроз.
Главный фактор — это скорость и масштабируемость. ИИ автоматизирует трудоемкие процессы, которые раньше требовали от человека напряженной многочасовой работы. Теперь алгоритмы делают ее в сотни раз быстрее.
Появляются системы способные за часы просканировать миллионы портов, провести интеллектуальный брутфорс, адаптируя словари паролей под жертву, автоматически протестировать тысячи веб-приложений на известные уязвимости. Определив оптимальную жертву, злоумышленники могут перейти к точечным ударам.
Второе важное свойство современного ИИ — адаптивность. Это позволяет нейросетям обходить традиционные статичные методы обнаружения (например, сигнатурный анализ). ИИ-атака динамична: алгоритм может в реальном времени менять тактику.
Если система обнаружения вторжений (IDS) блокирует определенный шаблон трафика, ИИ-зловред методом проб и ошибок найдет обходной путь, изменит сигнатуру вредоносного кода или способ коммуникации с командным сервером. Сама атака при этом будет продолжаться, и оператору зловреда подключаться не обязательно.
Все это в комплексе составляет главное Орудие ИИ: сочетание широкого охвата с прицельными атаками. Вместо того чтобы рассылать сотрудникам уведомления «о подозрительной активности в вашем аккаунте», злоумышленник поручает ИИ собрать досье на финансового директора. Нейросеть анализирует его выступления, находит упоминания о ключевых контрагентах и текущих сделках и генерирует персональное письмо с идеально правдоподобным предлогом для срочного перевода средств.
Комбинация этих качеств и превращает ИИ в стратегического противника для служб безопасности, который использует вроде бы те же инструменты, что и раньше, но по-новому.
Социальная инженерия нового поколения. Фишинговые письма больше не вычислить по корявым формулировкам и грамматическим ошибкам. Современные языковые модели мгновенно пишут безупречные, стилистически и грамматически правильные тексты, которые еще и подстраиваются под стиль коллеги или начальника. А при необходимости таких текстов можно составить хоть сотню — для разных отделов компании, с разным подбором формулировок, подстраиваясь под корпоративный жаргон и текущий рабочий контекст (например, используя данные о реальных проектах с сайта).
Но текст — лишь начало, а дальше злоумышленники переходят к , чтобы в реальном времени имитировать голос руководителя для телефонного звонка в отдел финансов или технической поддержки. Гипертаргетированный фишинг, который раньше встречался в целевых атаках, превращается в массовую угрозу, которую невозможно остановить простым обучением сотрудников.
Умный брутфорс. ИИ делает атаки на учетные записи умными и незаметными. Вместо примитивного перебора по общему словарю нейросеть использует утекшие базы данных, выявляет паттерны в создании паролей конкретными людьми или внутри определенных организаций. Затем на этой базе подбираются высоковероятные комбинации, что резко повышает эффективность подбора.
Умные алгоритмы могут методом проб и ошибок определить политику паролей компании (например, «минимум 8 символов, заглавная буква и цифра») и адаптировать под нее словарь для атаки. А системы на базе компьютерного зрения обходят классические CAPTCHA, анализируя искажения и зашумленность изображений.
Создание вредоносного ПО. Нейросети могут генерировать полиморфный и метаморфный код, который автоматически меняет сигнатуру с каждой новой жертвой. Это делает практически бесполезным анализ, который до сих пор лежит в основе многих антивирусных продуктов.
Еще более пугающей выглядит перспектива использования ИИ для автоматического поиска уязвимостей. Алгоритмы уже способны анализировать исходный код или бинарные файлы, находить потенциально уязвимые места (например, ошибки переполнения буфера) и даже генерировать работающий эксплойт.
Эволюционные атаки (adversarial ML). Это, пожалуй, самый изощренный сценарий, где ИИ атакует системы защиты, также построенные на ИИ. Методом «враждебного машинного обучения» злоумышленники учатся обманывать модели классификации.
Классический пример не из мира ИБ: если нанести на дорожный знак почти невидимые для человека помехи, система беспилотного автомобиля «увидит» не «стоп», а «ограничение скорости». В контексте кибербезопасности этот же метод построен на внесении в исполняемый файл или документ минимальных, не влияющих на функциональность изменения. Для человека файл остается прежним, а ИИ-модель системы защиты с высокой долей вероятности классифицирует его как «безопасный».
Хотя этические нормы, заложенные в ИИ, не позволяют ему создавать вредоносные инструменты, злоумышленники выстраивают свои запросы так, чтобы модель ничего не заподозрила. Например, просят LLM написать лишь часть кода. Кроме того, преступники используют «злые» аналоги ChatGPT, которые ориентированы на методы взлома, поиск уязвимостей и другие задачи, которые реализуют злоумышленники.
Можно привести и другие примеры вредоносного применения ИИ. Но из этих кейсов понятно, что злоумышленники не просто используют ИИ — они интегрируют его в полный жизненный цикл атаки, от разведки до эксплуатации и сокрытия следов, что требует адекватного и столь же технологичного ответа от защищающейся стороны.
Там, где сигнатурные методы бессильны против новых и неизвестных атак, в дело вступают системы поведенческого анализа (UEBA). Они учатся понимать нормальное поведение каждого пользователя, устройства и приложения в сети, и мгновенно отмечают любые отклонения. Попытка доступа к данным в нерабочее время, аномально большой объем исходящего трафика или нестандартная последовательность действий — все это триггеры для немедленного расследования.
Уставшим SOC-командам надежду возвращают средства автоматизации и продвинутого анализа. Платформы безопасности класса SOAR, усиленные ИИ, позволяют выстраивать из разрозненных алертов связанные цепочки инцидентов и автоматически запускать сценарии реагирования. Например, при обнаружении подозрительного файла система может самостоятельно изолировать зараженный узел от сети, заблокировать потенциально скомпрометированную учетную запись и создать тикет для аналитиков, где уже будет весь необходимый контекст.
Современные SIEM-системы тоже эволюционируют. Теперь они не просто гигантские сборщики логов, а интеллектуальные аналитические платформы. С помощью машинного обучения они могут коррелировать события из десятков разных источников, выявляя сложные многоэтапные атаки, которые человек просто не в состоянии увидеть вручную.
Наконец, идет напряженная борьба с враждебным машинным обучением (Adversarial ML). Исследователи и вендоры разрабатывают методы «закалки» своих моделей ИИ против подобных атак: специальное обучение на примерах с помехами, чтобы научить систему распознавать манипуляции, а также комплексные проверки, где решение о безопасности файла принимает целый ансамбль алгоритмов.
Таким образом, ИИ в защите позволяет укрепить проактивную модель безопасности, к которой пришли компании за последние годы. Гонка вооружений продолжается, а скорости реагирования приближаются к реальному времени.
Еще один тревожный тренд, который рынок уже видел с шифровальщиками, — коммерциализация угроз. Услуги «ИИ-как-услуга» (AI-as-a-Service) уже появляются в даркнете, позволяя даже технически неподготовленным злоумышленникам арендовать мощные нейросети для проведения сложных атак.
Все это ведет к неизбежной эскалации гонки вооружений «ИИ-атака» против «ИИ-защита». Компаниям необходимо инвестировать в средства поведенческого анализа, чтобы идти в ногу с угрозами. Сотрудники должны не просто знать про фишинг, но и понимать, как он теперь выглядит с усилением ИИ. Выбор решений в области защиты (SOAR, SIEM, NDR) в ближайшее время будет склоняться в пользу систем с машинным обучением в ядре своей функциональности.
Наконец, атаки нейросетей окончательно помещают подход Zero Trust во главу угла. Непрерывная проверка подлинности и авторизации каждого пользователя и устройства сводит на нет многие преимущества умных, но неавторизованных атакующих алгоритмов.
ИИ дал злоумышленникам новое Орудие. Но он же предоставил защитникам шанс превратить безопасность в управляемый, предсказуемый и автоматизированный процесс.
Кибербезопасность — не исключение, и здесь в зависимости от ракурса ситуация может показаться и тревожной, и воодушевляющей.
Период «кустарных» атак уходит в прошлое. На смену ему приходит эра автоматизированных, адаптивных и целевых операций. Злоумышленники больше не полагаются лишь на стандартный набор утилит и ручной труд. Они делегируют сложнейшие задачи — от социальной инженерии до создания вредоносного кода — алгоритмам, способным учиться, эволюционировать и подстраиваться под среду.
Атаки, на подготовку которых уходили недели, теперь могут быть запущены за часы. Угрозы становятся настолько персонализированными и нетипичными, что традиционные методы защиты часто видят в них просто «белый шум».
Специалисты по информационной безопасности тоже используют ИИ-арсенал, чтобы отражать новые угрозы. Продвинутый поведенческий анализ, умные SIEM и прочие похожие инструменты все больше входят в практику. Эксперты отрасли рассказали Cyber Media, как именно ИИ перекраивает ландшафт киберугроз.
ИИ как золотая пуля
Стремительное появление ИИ в инструментарии злоумышленников — это закономерный результат того, как эти технологии идеально ложатся на задачи кибератак. Они становятся «мультипликатором силы», превращая рядового хакера в оператора масштабной киберкампании.Главный фактор — это скорость и масштабируемость. ИИ автоматизирует трудоемкие процессы, которые раньше требовали от человека напряженной многочасовой работы. Теперь алгоритмы делают ее в сотни раз быстрее.
Появляются системы способные за часы просканировать миллионы портов, провести интеллектуальный брутфорс, адаптируя словари паролей под жертву, автоматически протестировать тысячи веб-приложений на известные уязвимости. Определив оптимальную жертву, злоумышленники могут перейти к точечным ударам.
Второе важное свойство современного ИИ — адаптивность. Это позволяет нейросетям обходить традиционные статичные методы обнаружения (например, сигнатурный анализ). ИИ-атака динамична: алгоритм может в реальном времени менять тактику.
Если система обнаружения вторжений (IDS) блокирует определенный шаблон трафика, ИИ-зловред методом проб и ошибок найдет обходной путь, изменит сигнатуру вредоносного кода или способ коммуникации с командным сервером. Сама атака при этом будет продолжаться, и оператору зловреда подключаться не обязательно.
Все это в комплексе составляет главное Орудие ИИ: сочетание широкого охвата с прицельными атаками. Вместо того чтобы рассылать сотрудникам уведомления «о подозрительной активности в вашем аккаунте», злоумышленник поручает ИИ собрать досье на финансового директора. Нейросеть анализирует его выступления, находит упоминания о ключевых контрагентах и текущих сделках и генерирует персональное письмо с идеально правдоподобным предлогом для срочного перевода средств.
Комбинация этих качеств и превращает ИИ в стратегического противника для служб безопасности, который использует вроде бы те же инструменты, что и раньше, но по-новому.
Арсенал киберзлодея
Эти теоретические преимущества ИИ уже воплотились в конкретных, работающих методиках. Продвинутые кибератаки, которые раньше встречались разве что в особо сложных сценариях, теперь касаются и простых пользователей.Социальная инженерия нового поколения. Фишинговые письма больше не вычислить по корявым формулировкам и грамматическим ошибкам. Современные языковые модели мгновенно пишут безупречные, стилистически и грамматически правильные тексты, которые еще и подстраиваются под стиль коллеги или начальника. А при необходимости таких текстов можно составить хоть сотню — для разных отделов компании, с разным подбором формулировок, подстраиваясь под корпоративный жаргон и текущий рабочий контекст (например, используя данные о реальных проектах с сайта).
Но текст — лишь начало, а дальше злоумышленники переходят к , чтобы в реальном времени имитировать голос руководителя для телефонного звонка в отдел финансов или технической поддержки. Гипертаргетированный фишинг, который раньше встречался в целевых атаках, превращается в массовую угрозу, которую невозможно остановить простым обучением сотрудников.
Умный брутфорс. ИИ делает атаки на учетные записи умными и незаметными. Вместо примитивного перебора по общему словарю нейросеть использует утекшие базы данных, выявляет паттерны в создании паролей конкретными людьми или внутри определенных организаций. Затем на этой базе подбираются высоковероятные комбинации, что резко повышает эффективность подбора.
Умные алгоритмы могут методом проб и ошибок определить политику паролей компании (например, «минимум 8 символов, заглавная буква и цифра») и адаптировать под нее словарь для атаки. А системы на базе компьютерного зрения обходят классические CAPTCHA, анализируя искажения и зашумленность изображений.
Создание вредоносного ПО. Нейросети могут генерировать полиморфный и метаморфный код, который автоматически меняет сигнатуру с каждой новой жертвой. Это делает практически бесполезным анализ, который до сих пор лежит в основе многих антивирусных продуктов.
Еще более пугающей выглядит перспектива использования ИИ для автоматического поиска уязвимостей. Алгоритмы уже способны анализировать исходный код или бинарные файлы, находить потенциально уязвимые места (например, ошибки переполнения буфера) и даже генерировать работающий эксплойт.
Эволюционные атаки (adversarial ML). Это, пожалуй, самый изощренный сценарий, где ИИ атакует системы защиты, также построенные на ИИ. Методом «враждебного машинного обучения» злоумышленники учатся обманывать модели классификации.
Классический пример не из мира ИБ: если нанести на дорожный знак почти невидимые для человека помехи, система беспилотного автомобиля «увидит» не «стоп», а «ограничение скорости». В контексте кибербезопасности этот же метод построен на внесении в исполняемый файл или документ минимальных, не влияющих на функциональность изменения. Для человека файл остается прежним, а ИИ-модель системы защиты с высокой долей вероятности классифицирует его как «безопасный».
Хотя этические нормы, заложенные в ИИ, не позволяют ему создавать вредоносные инструменты, злоумышленники выстраивают свои запросы так, чтобы модель ничего не заподозрила. Например, просят LLM написать лишь часть кода. Кроме того, преступники используют «злые» аналоги ChatGPT, которые ориентированы на методы взлома, поиск уязвимостей и другие задачи, которые реализуют злоумышленники.
Можно привести и другие примеры вредоносного применения ИИ. Но из этих кейсов понятно, что злоумышленники не просто используют ИИ — они интегрируют его в полный жизненный цикл атаки, от разведки до эксплуатации и сокрытия следов, что требует адекватного и столь же технологичного ответа от защищающейся стороны.
ИИ со знаком плюс
К счастью, стороны защиты получает те же технологические преимущества, что и злоумышленники. Специалисты по информационной безопасности интегрируют технологии на базе ИИ в работу, превращая хаос данных в поток событий, а белый шум — в понятную панораму.Там, где сигнатурные методы бессильны против новых и неизвестных атак, в дело вступают системы поведенческого анализа (UEBA). Они учатся понимать нормальное поведение каждого пользователя, устройства и приложения в сети, и мгновенно отмечают любые отклонения. Попытка доступа к данным в нерабочее время, аномально большой объем исходящего трафика или нестандартная последовательность действий — все это триггеры для немедленного расследования.
Уставшим SOC-командам надежду возвращают средства автоматизации и продвинутого анализа. Платформы безопасности класса SOAR, усиленные ИИ, позволяют выстраивать из разрозненных алертов связанные цепочки инцидентов и автоматически запускать сценарии реагирования. Например, при обнаружении подозрительного файла система может самостоятельно изолировать зараженный узел от сети, заблокировать потенциально скомпрометированную учетную запись и создать тикет для аналитиков, где уже будет весь необходимый контекст.
Современные SIEM-системы тоже эволюционируют. Теперь они не просто гигантские сборщики логов, а интеллектуальные аналитические платформы. С помощью машинного обучения они могут коррелировать события из десятков разных источников, выявляя сложные многоэтапные атаки, которые человек просто не в состоянии увидеть вручную.
Наконец, идет напряженная борьба с враждебным машинным обучением (Adversarial ML). Исследователи и вендоры разрабатывают методы «закалки» своих моделей ИИ против подобных атак: специальное обучение на примерах с помехами, чтобы научить систему распознавать манипуляции, а также комплексные проверки, где решение о безопасности файла принимает целый ансамбль алгоритмов.
Таким образом, ИИ в защите позволяет укрепить проактивную модель безопасности, к которой пришли компании за последние годы. Гонка вооружений продолжается, а скорости реагирования приближаются к реальному времени.
Что дальше
Понятно одно: ИИ никуда не исчезнет. Полностью автономные кибератаки, где ИИ самостоятельно проводит разведку, выбирает цель, эксплуатирует уязвимость и скрывает следы, с каждым месяцем становятся все реальнее. Это потребует столь же автоматизированных систем защиты, способных принимать решения без участия человека.Еще один тревожный тренд, который рынок уже видел с шифровальщиками, — коммерциализация угроз. Услуги «ИИ-как-услуга» (AI-as-a-Service) уже появляются в даркнете, позволяя даже технически неподготовленным злоумышленникам арендовать мощные нейросети для проведения сложных атак.
Все это ведет к неизбежной эскалации гонки вооружений «ИИ-атака» против «ИИ-защита». Компаниям необходимо инвестировать в средства поведенческого анализа, чтобы идти в ногу с угрозами. Сотрудники должны не просто знать про фишинг, но и понимать, как он теперь выглядит с усилением ИИ. Выбор решений в области защиты (SOAR, SIEM, NDR) в ближайшее время будет склоняться в пользу систем с машинным обучением в ядре своей функциональности.
Наконец, атаки нейросетей окончательно помещают подход Zero Trust во главу угла. Непрерывная проверка подлинности и авторизации каждого пользователя и устройства сводит на нет многие преимущества умных, но неавторизованных атакующих алгоритмов.
ИИ дал злоумышленникам новое Орудие. Но он же предоставил защитникам шанс превратить безопасность в управляемый, предсказуемый и автоматизированный процесс.
