Наборы данных

Оригинал: Datasets

Злоумышленники могут собирать публичные наборы данных для использования в своих операциях. Наборы данных, используемые организацией-жертвой, или наборы данных, репрезентативные по отношению к данным организации-жертвы, могут быть ценны для злоумышленников. Наборы данных могут храниться в облачных хранилищах или на сайтах, принадлежащих жертве. Для доступа к некоторым наборам данных злоумышленнику необходимо создать учетные записи.

Полученные наборы данных помогают злоумышленнику развивать операции, подготавливать атаки и адаптировать атаки под организацию-жертву.

Тактики

AML.TA0003Подготовка ресурсов

Родительская техника

AML.T0002Получение публичных ИИ-артефактов

Другие подтехники родителя

AML.T0002.001МоделиПодтехника AML.T0002.002Конфигурация ИИ-агентаПодтехника

Меры защиты

AML.M0001Ограничение публикации артефактов модели

Ограничение публикации наборов данных может снизить способность злоумышленника нацеливаться на продакшен-модели, обученные на тех же или похожих данных.

Примеры процедур из кейсов

AML.CS0000Обход детектора C&C-трафика вредоносного ПО на основе глубокого обученияАктор: Palo Alto Networks AI Research Team / Тактика: AML.TA0003 Подготовка ресурсов

Мы получили набор данных HTTP-трафика командования и управления, состоящий примерно из 33 млн безвредных и 27 млн вредоносных заголовков HTTP-пакетов.

AML.CS0005Атака на сервисы машинного переводаАктор: Berkeley Artificial Intelligence Research / Тактика: AML.TA0003 Подготовка ресурсов

Исследователи собрали похожие наборы данных, которые использовали целевые сервисы машинного перевода.

AML.CS0007Репликация модели GPT-2Актор: Researchers at Brown University / Тактика: AML.TA0003 Подготовка ресурсов

Используя собранную документацию, исследователи смогли вручную воссоздать набор данных, применявшийся в исходной статье о GPT-2.

AML.CS0012Обход системы идентификации лиц с помощью физических контрмерАктор: MITRE AI Red Team / Тактика: AML.TA0003 Подготовка ресурсов

Команда получила репрезентативные данные из открытых источников.

AML.CS0014Сбивание с толку антивирусных нейронных сетейАктор: Kaspersky ML Research Team / Тактика: AML.TA0003 Подготовка ресурсов

Исследователи собрали набор данных из вредоносных и чистых файлов. Они просканировали этот набор целевым антивирусным решением на основе ML и разметили образцы в соответствии с предсказаниями ML-детектора.

AML.CS0025Отравление крупномасштабных веб-датасетов: атака split-viewАктор: Researchers from Google Deepmind, ETH Zurich, NVIDIA, Robust Intelligence, and Google / Тактика: AML.TA0003 Подготовка ресурсов

Исследователи скачивают крупномасштабный веб-датасет, представляющий собой список URL на отдельные элементы данных.