Доступ к физической среде

Оригинал: Physical Environment Access

Помимо атак, происходящих исключительно в цифровом домене, злоумышленники могут использовать для атак физическую среду. Если модель каким-либо образом взаимодействует с данными, собираемыми из реального мира, злоумышленник может влиять на модель через доступ к месту, где эти данные собираются. Изменяя данные в процессе сбора, злоумышленник может выполнять модифицированные варианты атак, изначально рассчитанных на цифровой доступ.

Тактики

AML.TA0000Доступ к ИИ-модели

Меры защиты

AML.M0009Использование мультимодальных сенсоров

Использование разных сенсоров может затруднить злоумышленнику с физическим доступом компрометацию системы и получение вредоносных результатов.

Примеры процедур из кейсов

AML.CS0012Обход системы идентификации лиц с помощью физических контрмерАктор: MITRE AI Red Team / Тактика: AML.TA0000 Доступ к ИИ-модели

Команда разместила подготовленную наклейку в физической среде, чтобы вызвать сбои в системе идентификации лиц.

AML.CS0013Бэкдор-атака на модели глубокого обучения в мобильных приложенияхАктор: Yuanchun Li, Jiayi Hua, Haoyu Wang, Chunyang Chen, Yunxin Liu / Тактика: AML.TA0000 Доступ к ИИ-модели

На этапе инференса для запуска атаки требуется только доступ к физической среде.