Санитизация обучающих данных
Оригинал: Sanitize Training Data
Выявляйте и удаляйте отравленные обучающие данные или устраняйте их влияние. Обучающие данные следует санитизировать перед обучением модели, а для модели с активным обучением — регулярно.
Реализуйте фильтр для ограничения принимаемых обучающих данных. Установите политику контента, которая исключает использование нежелательного содержимого, например определенной откровенной или оскорбительной лексики.
Связанные техники
Выявляйте и удаляйте отравленные данные либо устраняйте их последствия, чтобы избежать состязательного дрейфа модели или бэкдор-атак.
AML.T0018.000Отравление ИИ-моделиНе дает злоумышленникам использовать отравленные наборы данных для запуска бэкдор-атак против модели.
AML.T0020Отравление обучающих данныхВыявляйте изменения данных и меток, которые могут вызвать состязательный дрейф модели или бэкдор-атаки.
AML.T0059Нарушение целостности набора данныхУстранение последствий отравленных данных может восстановить целостность набора данных.