Разведка
Оригинал: Reconnaissance
Злоумышленник пытается собрать информацию об ИИ-системе, которую можно использовать для планирования будущих операций.
Разведка включает техники, при которых злоумышленники активно или пассивно собирают информацию, полезную для выбора целей. Такая информация может включать сведения об ИИ-возможностях организации-жертвы и ее исследовательских работах. Злоумышленник может использовать эту информацию на других этапах жизненного цикла атаки, например для получения релевантных ИИ-артефактов, нацеливания на ИИ-возможности, используемые жертвой, адаптации атак под конкретные модели, используемые жертвой, или для направления дальнейшей разведки.
Техники
Примеры процедур из кейсов
Мы определили подход к обнаружению вредоносных URL на основе машинного обучения как репрезентативный подход и потенциальную цель по статье [URLNet: Learning a URL representation with deep learning for malicious URL detection](https://arxiv.org/abs/1802.03162), найденной на arXiv (репозитории препринтов).
AML.CS0001Обход обнаружения DGA-доменов ботнетовОбнаружение DGA широко используется для выявления ботнетов в академической среде и индустрии. Исследовательская группа искала научные публикации, связанные с обнаружением DGA.
AML.CS0003Обход ИИ-детектора вредоносного ПО CylanceИсследователи изучили публично доступную информацию об ИИ-детекторе вредоносного ПО Cylance. Они собирали эти сведения из разных источников, включая публичные выступления и патентные заявки Cylance.
AML.CS0004Атака на систему распознавания лиц через подмену видеопотока камерыЗлоумышленники собрали идентификационные данные пользователей и фотографии лиц в высоком разрешении на онлайн-черном рынке.
AML.CS0005Атака на сервисы машинного переводаИсследователи использовали опубликованные научные статьи, чтобы определить наборы данных и архитектуры моделей, применявшиеся целевыми сервисами машинного перевода.
AML.CS0007Репликация модели GPT-2Используя публичную документацию по GPT-2, исследователи собрали сведения о наборе данных, архитектуре модели и гиперпараметрах обучения.
AML.CS0010Нарушение работы сервиса Microsoft AzureКоманда сначала провела разведку, чтобы собрать сведения о целевой ML-модели.
AML.CS0011Обход ИИ на периферии MicrosoftКоманда сначала провела разведку, чтобы собрать сведения о целевой ML-модели.
AML.CS0012Обход системы идентификации лиц с помощью физических контрмерКоманда сначала провела разведку, чтобы собрать сведения о целевой ML-модели.
AML.CS0013Бэкдор-атака на модели глубокого обучения в мобильных приложенияхЧтобы составить список потенциальных целевых моделей, исследователи искали в Google Play приложения, которые могли содержать встроенные модели глубокого обучения, по ключевым словам, связанным с глубоким обучением.
AML.CS0014Сбивание с толку антивирусных нейронных сетейИсследователи провели обзор состязательных атак на ML-компоненты антивирусных продуктов. Они обнаружили, что техники, заимствованные из атак на классификаторы изображений, уже успешно применялись в области защиты от вредоносного ПО. Однако было неясно, эффективны ли такие подходы против ML-компонента промышленных антивирусных решений.
AML.CS0014Сбивание с толку антивирусных нейронных сетейИспользование компанией Kaspersky антивирусных детекторов на основе ML публично описано на сайте компании. На практике злоумышленник мог бы использовать эту информацию для выбора цели.
Показано 12 из 25 примеров.