Компрометация при посещении сайта

Оригинал: Drive-by Compromise

Злоумышленники могут получить доступ к ИИ-системе, когда пользователь посещает сайт в ходе обычного веб-серфинга или когда ИИ-агент получает информацию из интернета от имени пользователя. Сайты могут содержать промпт-инъекцию LLM, которая при выполнении способна изменить поведение ИИ-модели.

Тот же подход может использоваться для доставки других типов вредоносного кода, не нацеленных напрямую на ИИ (см. Drive-by Compromise в ATT&CK).

Тактики

AML.TA0004Первичный доступ

Примеры процедур из кейсов

AML.CS0021Эксфильтрация разговоров ChatGPTАктор: Embrace The Red / Тактика: AML.TA0004 Первичный доступ

Когда запрос пользователя заставляет ChatGPT открыть эту веб-страницу через плагин `WebPilot`, модель считывает промпт злоумышленника.

AML.CS0045Эксфильтрация данных через MCP-сервер, используемый CursorАктор: Backslash Security Research Team / Тактика: AML.TA0004 Первичный доступ

Когда пользователь попросил Cursor использовать MCP-инструмент для извлечения содержимого вредоносного сайта, промпт был получен и добавлен в контекст Cursor.

AML.CS0051Использование OpenClaw для командования и управления через промпт-инъекциюАктор: HiddenLayer / Тактика: AML.TA0004 Первичный доступ

Когда жертва попросила OpenClaw кратко пересказать `https://openclaw.aisystem.tech`, промпт-инъекция была получена с сайта через навык OpenClaw `web_fetch`.

AML.CS0055AI ClickFix: захват управления computer-use-агентами с помощью ClickFixАктор: Embrace the Red / Тактика: AML.TA0004 Первичный доступ

Claude Computer-Use Agent жертвы посетил сайт исследователя и загрузил его содержимое в свой контекст.