Наборы данных
Оригинал: Datasets
Злоумышленники могут публиковать отравленные наборы данных, предназначенные для обучения или дообучения ИИ-моделей. Набор данных может быть вновь созданным либо представлять собой модифицированный вариант легитимного набора данных и может содержать изменённые образцы, метки, аннотации или метаданные.
Злоумышленники могут распространять отравленные наборы данных через репозитории наборов данных, репозитории кода, файлообменные сервисы или скомпрометированные источники данных. Жертва, которая включает такой набор данных в пайплайн обучения, может пострадать от отравления обучающих данных, возможно, в результате компрометации цепочки поставок ИИ.