Запуск пользователем

Оригинал: User Execution

Злоумышленник может полагаться на определенные действия пользователя, чтобы добиться выполнения кода.

Пользователи могут непреднамеренно выполнить небезопасный код, внедренный через компрометацию цепочки поставок ИИ.

Пользователи могут подвергаться социальной инженерии, чтобы заставить их выполнить вредоносный код, например открыть вредоносный файл документа или ссылку.

Тактики

AML.TA0005Выполнение

Подтехники

AML.T0011.000Небезопасные ИИ-артефактыПодтехника AML.T0011.001Вредоносный пакетПодтехника AML.T0011.002Отравленный инструмент ИИ-агентаПодтехника AML.T0011.003Вредоносная ссылкаПодтехника

Меры защиты

AML.M0011Ограничение загрузки библиотек

Запрет бинарным файлам загружать внешние библиотеки может ограничить их способность выполнять вредоносный код.

AML.M0014Проверка ИИ-артефактов

Внедрите надлежащую проверку подписей, чтобы небезопасные ИИ-артефакты не выполнялись в системе.

AML.M0016Сканирование уязвимостей

Сканирование уязвимостей может помочь выявлять вредоносные бинарные файлы и предотвращать их выполнение пользователем.

AML.M0018Обучение пользователей

Обучение пользователей распознаванию попыток манипуляции снижает вероятность того, что они выполнят действия, приводящие к запуску вредоносного кода.

AML.M0023Ведомость материалов ИИ

AI BOM может помочь пользователям выявлять недоверенные бинарные файлы.

Примеры процедур из кейсов

AML.CS0018Выполнение произвольного кода через Google ColabАктор: Tony Piazza / Тактика: AML.TA0005 Выполнение

Пользователь-жертва может неосознанно выполнить вредоносный код, входящий в состав скомпрометированного Colab notebook. Вредоносный код может быть обфусцирован или скрыт в других файлах, которые notebook загружает при выполнении.

AML.CS0044LAMEHUG: вредоносное ПО, использующее динамические команды, сгенерированные ИИАктор: APT28 / Тактика: AML.TA0005 Выполнение

Вложение содержало исполняемый файл с расширением `.pif`, созданный из Python-кода с помощью PyInstaller. CERT-UA классифицировал его как LAMEHUG. Файлы с расширением `.pif` являются исполняемыми в Windows.

AML.CS0060Межсайтовый скриптинг (XSS) через манипуляцию промптом в ИИ-чат-боте LenovoАктор: Cybernews Research Team / Тактика: AML.TA0005 Выполнение

Исследователи запросили перевод на сотрудника службы поддержки, из-за чего вредоносный HTML автоматически выполнился, когда сотрудник открыл стенограмму чата.