ATLAS RU

Фишинг с использованием дипфейков

Оригинал: Deepfake-Assisted Phishing

Злоумышленники могут использовать дипфейки, то есть синтетические изображения, аудио или видео, созданные с помощью ИИ, в фишинговых кампаниях, чтобы выдавать себя за доверенных лиц, руководителей или организации. Такие атаки эксплуатируют доверие людей: мошеннические голосовые или видеосообщения подаются как легитимные, что позволяет злоумышленникам манипулировать целями и добиваться раскрытия учетных данных, перевода средств или предоставления доступа к системам.

Голосовые дипфейки, то есть голоса, клонированные с помощью ИИ, используются в атаках вишинга [1] (голосового фишинга) по телефону или VoIP. Злоумышленники могут клонировать голос цели, используя несколько секунд [2] публично доступного аудио из выступлений, звонков с отчетностью, подкастов или социальных сетей [3]. Затем такие клонированные голоса используются в заранее записанных голосовых сообщениях или живых телефонных звонках. Видеодипфейки могут имитировать лицо и голос доверенного человека. Злоумышленники используют публично доступные видео с корпоративных встреч, звонков с отчетностью или из социальных сетей, чтобы создавать убедительные ИИ-сгенерированные видео целевых лиц. Такие видео используются в живых видеоконференциях или записанных видеосообщениях. ИИ-сгенерированный контент развился до уровня, при котором его часто сложно распознать как синтетический [4].

При подготовке к фишинговой кампании злоумышленники могут сначала выполнить получение возможностей: генеративный ИИ, а затем создание дипфейков. Фишинговые кампании с дипфейками часто используют и другие каналы коммуникации, такие как email, SMS или мессенджеры, для многоуровневых атак социальной инженерии [5].

Такие атаки охватывают широкий спектр жертв и типов атак, демонстрируя масштаб мошенничества с использованием дипфейков. Злоумышленники проводили масштабные фишинговые кампании с дипфейками против отдельных людей, включая целевое мошенничество [6] [7] [8] [9], а также крупномасштабные кампании по сбору учетных данных, нацеленные на миллиарды пользователей [10] [11]. Злоумышленники использовали дипфейки для имперсонации руководителей [12], что приводило к значительным финансовым потерям для компаний [13] [14]. Также есть сообщения о массовых кампаниях, в которых целями становились государственные должностные лица [4] [15].

Эти атаки охватывают разные каналы коммуникации, включая голосовые дипфейки для вишинга [16] и видеодипфейки в конференц-звонках [13], а также многоканальные кампании, совмещающие телефон, email и платформы обмена сообщениями [10].

Тактики

AML.TA0004Первичный доступ AML.TA0015Латеральное перемещение

Родительская техника

AML.T0052Фишинг

Другие подтехники родителя

AML.T0052.000Целевой фишинг через LLM для социальной инженерииПодтехника

Меры защиты

AML.M0018Обучение пользователей

Обучайте пользователей угрозам, связанным с дипфейками, в том числе распознаванию синтетического голоса, видео и текста. Рекомендуйте проверку по независимым каналам, например по известному номеру для обратного звонка, перед обработкой чувствительных запросов или предоставлением чувствительной информации по голосовой или видеосвязи.

AML.M0034Обнаружение дипфейков

Разверните технические средства контроля для обнаружения и блокировки синтетического аудио и видео. К ним относятся инструменты анализа на основе ИИ, которые проверяют медиа на артефакты, указывающие на дипфейки.

Источники