Обнаружение дипфейков
Оригинал: Deepfake Detection
Применяйте алгоритмы обнаружения дипфейков к любым недоверенным или предоставленным пользователями данным, особенно в приложениях, где ошибки могут иметь существенные последствия, таких как биометрическая верификация, чтобы блокировать сгенерированный контент.
Детекторы могут использовать комбинацию подходов, включая:
- ИИ-модели, обученные отличать реальный контент от дипфейков.
- Выявление распространенных несоответствий в дипфейк-контенте, таких как неестественные движения лица, несоответствия в аудио или артефакты на уровне пикселей.
- Анализ биометрических признаков, таких как моргание, движения глаз и микровыражения.
Связанные техники
Обнаружение дипфейков можно использовать для выявления и блокировки сгенерированного контента.
AML.T0052ФишингОбнаружение дипфейков можно использовать для выявления и блокировки фишинговых попыток, использующих сгенерированный контент.
AML.T0052.000Целевой фишинг через LLM для социальной инженерииОбнаружение дипфейков можно использовать для выявления и блокировки фишинговых попыток, использующих сгенерированный контент.
AML.T0052.001Фишинг с использованием дипфейковРазверните технические средства контроля для обнаружения и блокировки синтетического аудио и видео. К ним относятся инструменты анализа на основе ИИ, которые проверяют медиа на артефакты, указывающие на дипфейки.
AML.T0088Создание дипфейковОбнаружение дипфейков можно использовать для выявления и блокировки сгенерированного контента.