Исследователи обманывают AI-браузер Comet от Perplexity в фишинговой схеме менее чем за четыре минуты

Подождите — AI-браузеры становятся жертвами. Исследователи только что показали, как обмануть AI-браузер Comet от Perplexity в фишинговой схеме менее чем за четыре минуты. Да, вы правильно прочитали. Четыре минуты.

Используя фишинговые страницы, обученные с помощью GAN, они выявили целую новую поверхность атаки, которая нацелена непосредственно на ИИ. Это не фишинг вашей бабушки — это социальная инженерия следующего уровня, которая обходит традиционное обнаружение.

Метод? Инъекция промптов + машинное обучение. Они создали страницы, которые выглядят легитимными для ИИ, но являются чистыми ловушками. Как только ИИ попадается на приманку, он может утечь конфиденциальные данные или выполнить вредоносные действия.

Это сигнал тревоги для безопасности AI-браузеров. Если ИИ можно обмануть так быстро, что мешает злоумышленникам масштабировать эти атаки? Исследование подчеркивает критические уязвимости в том, как ИИ интерпретирует и взаимодействует с веб-контентом.

Ключевой вывод: ИИ не защищен от старых трюков — это просто новый вектор. По мере того как AI-браузеры становятся мейнстримом, защита их от этих сложных атак является обязательной.