Нарушение целостности набора данных

Оригинал: Erode Dataset Integrity

Злоумышленники могут отравлять или изменять части набора данных, чтобы снизить его полезность, подорвать доверие к нему и заставить пользователей тратить ресурсы на исправление ошибок.

Тактики

AML.TA0011Воздействие

Меры защиты

AML.M0007Санитизация обучающих данных

Устранение последствий отравленных данных может восстановить целостность набора данных.

AML.M0025Поддержание происхождения наборов данных ИИ

Поддержание происхождения наборов данных может помочь выявлять вредоносные изменения данных.

Примеры процедур из кейсов

AML.CS0025Отравление крупномасштабных веб-датасетов: атака split-viewАктор: Researchers from Google Deepmind, ETH Zurich, NVIDIA, Robust Intelligence, and Google / Тактика: AML.TA0011 Воздействие

Целостность датасета нарушается, потому что при последующих скачиваниях он будет содержать отравленные элементы данных.