Вредоносный пакет

Оригинал: Malicious Package

Злоумышленники могут разрабатывать вредоносные программные пакеты, которые при импорте пользователем оказывают вредоносное воздействие.

Вредоносные пакеты могут вести себя так, как ожидает пользователь. Они могут внедряться через компрометацию цепочки поставок ИИ. Для пользователя они могут не выглядеть явно вредоносными и казаться полезными для задачи, связанной с ИИ.

Тактики

AML.TA0005Выполнение

Родительская техника

AML.T0011Запуск пользователем

Другие подтехники родителя

AML.T0011.000Небезопасные ИИ-артефактыПодтехника AML.T0011.002Отравленный инструмент ИИ-агентаПодтехника AML.T0011.003Вредоносная ссылкаПодтехника

Меры защиты

AML.M0011Ограничение загрузки библиотек

Запрет пакетам загружать внешние библиотеки может ограничить их способность выполнять вредоносный код.

AML.M0013Подписание кода

Подписание кода дает гарантию, что программный пакет не был изменен после подписания.

AML.M0016Сканирование уязвимостей

Сканирование уязвимостей может помочь выявлять вредоносные пакеты и предотвращать их выполнение пользователем.

AML.M0018Обучение пользователей

Обучайте пользователей распознавать попытки манипуляции, чтобы они не запускали небезопасный код из внешних пакетов.

AML.M0023Ведомость материалов ИИ

AI BOM может помочь пользователям выявлять недоверенные программные зависимости.

Примеры процедур из кейсов

AML.CS0022Галлюцинация пакетов ChatGPTАктор: Vulcan Cyber, Lasso Security / Тактика: AML.TA0005 Выполнение

В итоге пользователь загрузит вредоносный пакет, что позволит выполнить произвольный код.

AML.CS0047Код для развертывания деструктивного ИИ-агента обнаружен в расширении Amazon Q для VS CodeАктор: lkmanka58 (GitHub user) / Тактика: AML.TA0005 Выполнение

Вредоносный пакет запускался у пользователей, обновивших расширение VS Code до версии `v1.84.0`.