Обнаружение дипфейков

Оригинал: Deepfake Detection

Применяйте алгоритмы обнаружения дипфейков к любым недоверенным или предоставленным пользователями данным, особенно в приложениях, где ошибки могут иметь существенные последствия, таких как биометрическая верификация, чтобы блокировать сгенерированный контент.

Детекторы могут использовать комбинацию подходов, включая:

  • ИИ-модели, обученные отличать реальный контент от дипфейков.
  • Выявление распространенных несоответствий в дипфейк-контенте, таких как неестественные движения лица, несоответствия в аудио или артефакты на уровне пикселей.
  • Анализ биометрических признаков, таких как моргание, движения глаз и микровыражения.

Связанные техники

AML.T0015Обход ИИ-модели

Обнаружение дипфейков можно использовать для выявления и блокировки сгенерированного контента.

AML.T0052Фишинг

Обнаружение дипфейков можно использовать для выявления и блокировки фишинговых попыток, использующих сгенерированный контент.

AML.T0052.000Целевой фишинг через LLM для социальной инженерии

Обнаружение дипфейков можно использовать для выявления и блокировки фишинговых попыток, использующих сгенерированный контент.

AML.T0052.001Фишинг с использованием дипфейков

Разверните технические средства контроля для обнаружения и блокировки синтетического аудио и видео. К ним относятся инструменты анализа на основе ИИ, которые проверяют медиа на артефакты, указывающие на дипфейки.

AML.T0088Создание дипфейков

Обнаружение дипфейков можно использовать для выявления и блокировки сгенерированного контента.