Готовые реализации состязательных атак на ИИ

Оригинал: Adversarial AI Attack Implementations

Злоумышленники могут искать существующие реализации атак на ИИ с открытым исходным кодом. Исследовательское сообщество часто публикует код для воспроизводимости результатов и дальнейшего развития исследований. Библиотеки, предназначенные для исследовательских целей, такие как CleverHans, Adversarial Robustness Toolbox и FoolBox, могут быть превращены злоумышленником в средство атаки. Злоумышленники также могут получать и использовать в атаке инструменты, которые изначально не предназначались для состязательных атак на ИИ.

Тактики

AML.TA0003Подготовка ресурсов

Родительская техника

AML.T0016Получение средств для атаки

Другие подтехники родителя

AML.T0016.001Программные инструментыПодтехника AML.T0016.002Генеративный ИИПодтехника

Примеры процедур из кейсов

AML.CS0002Отравление VirusTotalАктор: Unknown / Тактика: AML.TA0003 Подготовка ресурсов

Злоумышленник получил [metame](https://github.com/a0rtega/metame), простой движок метаморфного кода для произвольных исполняемых файлов.

AML.CS0004Атака на систему распознавания лиц через подмену видеопотока камерыАктор: Two individuals / Тактика: AML.TA0003 Подготовка ресурсов

Злоумышленники получили ПО, которое преобразует статичные фотографии в видео, добавляя реалистичные эффекты, например моргание.

AML.CS0027Путаница с организациями на Hugging FaceАктор: threlfall_hax / Тактика: AML.TA0003 Подготовка ресурсов

Исследователь получил [EasyEdit](https://github.com/zjunlp/EasyEdit), инструмент с открытым исходным кодом для редактирования знаний в больших языковых моделях.