Обход детектора C&C-трафика вредоносного ПО на основе глубокого обучения

Оригинал: Evasion of Deep Learning Detector for Malware C&C Traffic

Исследовательская группа Security AI компании Palo Alto Networks протестировала модель глубокого обучения для обнаружения трафика командования и управления (C&C) вредоносного ПО в HTTP-трафике.

На основе общедоступной статьи Le и соавт. мы построили модель, обученную на наборе данных, похожем на набор данных нашей продакшен-модели, и показавшую сопоставимую эффективность.

Затем мы создали состязательные образцы, отправляли запросы к модели и соответствующим образом корректировали состязательный образец, пока модель не удалось обойти.

Процедура

1. AML.TA0002 Разведка

   AML.T0000.001 Репозитории препринтов

   Мы определили подход к обнаружению вредоносных URL на основе машинного обучения как репрезентативный подход и потенциальную цель по статье URLNet: Learning a URL representation with deep learning for malicious URL detection, найденной на arXiv (репозитории препринтов).
2. AML.TA0003 Подготовка ресурсов

   AML.T0002.000 Наборы данных

   Мы получили набор данных HTTP-трафика командования и управления, состоящий примерно из 33 млн безвредных и 27 млн вредоносных заголовков HTTP-пакетов.
3. AML.TA0001 Подготовка атаки на ИИ

   AML.T0005 Создание прокси-модели ИИ

   Мы обучили модель на наборе данных HTTP-трафика, чтобы использовать ее как прокси для целевой модели.

   Оценка показала среднюю долю истинно положительных срабатываний около 99% и среднюю долю ложноположительных срабатываний около 0,01%.

   При проверке модели заголовок HTTP-пакета из известных образцов C&C-трафика вредоносного ПО был классифицирован как вредоносный с высокой уверенностью (> 99%).

4. AML.TA0001 Подготовка атаки на ИИ

   AML.T0043.003 Ручная модификация

   Мы создали образцы для обхода, удалив из заголовка пакета поля, которые обычно не используются для C&C-коммуникации, например cache-control, connection и т. д.
5. AML.TA0001 Подготовка атаки на ИИ

   AML.T0042 Проверка атаки

   Мы отправляли в модель наши состязательные примеры и корректировали их, пока модель не удалось обойти.
6. AML.TA0007 Уклонение от защиты

   AML.T0015 Обход ИИ-модели

   Используя созданные образцы, мы выполнили онлайн-обход модели обнаружения шпионского ПО на основе машинного обучения.

   Созданные пакеты были классифицированы как безвредные с уверенностью > 80%.

   Эта оценка показывает, что злоумышленники способны обходить продвинутые техники обнаружения на основе машинного обучения, создавая образцы, которые ML-модель классифицирует неверно.

Источники

1. Le, Hung, et al. "URLNet: Learning a URL representation with deep learning for malicious URL detection." arXiv preprint arXiv:1802.03162 (2018).