Атака остаётся незаметной для пользователей и систем безопасности, обходя традиционные защитные меры и не требуя никаких действий со стороны жертвы.
Компания Radware сообщила о новой критической уязвимости безопасности ChatGPT, получившей название ShadowLeak.
В отличие от известных атак, требующих действия пользователя, эта представляет собой уникальный эксплойт, который позволяет злоумышленникам похищать данные из учётных записей пользователя без открытия писем, кликов или видимых признаков компрометации.
ShadowLeak эксплуатирует возможность автономного исследования интернета ИИ-агентом Deep Research, интегрированным в ChatGPT. Злоумышленник отправляет специально сформированное электронное письмо с невидимыми инструкциями, которые агент обрабатывает самостоятельно в облаке OpenAI.
В процессе анализа почты и запросов агент на сервере собирает и отправляет конфиденциальную информацию на контролируемый хакерами сервер, полностью обходя конечные устройства жертвы и традиционные средства защиты.
Директор по технологиям Radware Дэвид Авив отмечает: «Для жертвы атака полностью невидима, отсутствует какой-либо пользовательский триггер, а уведомления о взломе не появляются. ShadowLeak — классический пример атаки без кликов, реализованной на серверной стороне».
Исследование показывает, что подобные утечки данных от ИИ-агентов с каждым годом будут становиться всё серьёзнее, требуя от компаний усиленного контроля и надзора за интеграцией ИИ, а также комплексных мер безопасности, сочетающих технологии, процедуры и обучение персонала.
OpenAI уже выпустила патчи, устраняющие уязвимость.
