Обход ProofPoint

Оригинал: ProofPoint Evasion

Proof Pudding (CVE-2019-20634) — это репозиторий кода, описывающий, как исследователи ML обошли систему защиты электронной почты ProofPoint: сначала они создали модель-копию ML-модели защиты электронной почты, а затем использовали полученные сведения, чтобы обойти рабочую систему. В частности, эти сведения позволили исследователям создавать вредоносные письма, которые получали предпочтительные оценки и оставались незамеченными системой. Каждое слово в письме оценивается численно по нескольким переменным; если общая оценка письма слишком низкая, ProofPoint выводит ошибку и помечает письмо как SPAM.

Процедура

1. AML.TA0008 Выявление

   AML.T0063 Выявление выходных данных ИИ-модели

   Исследователи обнаружили, что ProofPoint Email Protection оставляла выходные оценки модели в заголовках писем.
2. AML.TA0000 Доступ к ИИ-модели

   AML.T0047 Продукт или сервис с поддержкой ИИ

   Исследователи отправили через систему множество писем, чтобы собрать выходные данные модели из заголовков.
3. AML.TA0001 Подготовка атаки на ИИ

   AML.T0005.001 Обучение прокси-модели через репликацию

   Исследователи использовали письма и собранные оценки как набор данных, на котором обучили рабочую копию модели ProofPoint.

   С помощью простой корреляции они определили, какая переменная оценки в целом отражает безопасность письма. В этом случае была выбрана переменная “mlxlogscore”, поскольку она была связана со spam, phish и core mlx, и ее использовали как метку. Каждое значение “mlxlogscore” обычно находилось в диапазоне от 1 до 999: чем выше оценка, тем безопаснее образец. Обучение выполнялось с использованием искусственной нейронной сети (ANN) и токенизации Bag of Words.

4. AML.TA0001 Подготовка атаки на ИИ

   AML.T0043.002 Перенос на модель чёрного ящика

   Затем исследователи ML алгоритмически нашли в этой “офлайн” прокси-модели образцы, которые помогли получить нужное представление о ее поведении и влиятельных переменных.

   Примеры образцов с хорошими оценками: “calculation”, “asset” и “tyson”.

   Примеры образцов с плохими оценками: “software”, “99” и “unsub”.

5. AML.TA0011 Воздействие

   AML.T0015 Обход ИИ-модели

   В итоге сведения, полученные с помощью “офлайн” прокси-модели, позволили исследователям создавать вредоносные письма, которые получали благоприятные оценки от реальной системы защиты электронной почты ProofPoint и тем самым обходили ее.

Источники

1. National Vulnerability Database entry for CVE-2019-20634
2. 2019 DerbyCon presentation "42: The answer to life, the universe, and everything offensive security"
3. Proof Pudding (CVE-2019-20634) Implementation on GitHub
4. 2019 DerbyCon video presentation "42: The answer to life, the universe, and everything offensive security"