Нарушение работы сервиса Microsoft Azure

Оригинал: Microsoft Azure Service Disruption

«Красная команда» Microsoft AI провела учения на внутреннем сервисе Azure с целью нарушить его работу. Эта операция сочетала традиционные корпоративные техники ATT&CK, такие как поиск действующей учетной записи и эксфильтрация данных, со специфичными для состязательного ML шагами, включая создание офлайн- и онлайн-примеров для обхода модели.

Процедура

AML.TA0002 Разведка
AML.T0000 Поиск в открытых технических базах данных
Команда сначала провела разведку, чтобы собрать сведения о целевой ML-модели.
AML.TA0004 Первичный доступ
AML.T0012 Действующие учетные записи
Команда использовала действительную учетную запись, чтобы получить доступ к сети.
AML.TA0009 Сбор материалов
AML.T0035 Сбор ИИ-артефактов
Команда нашла файл целевой ML-модели и необходимые обучающие данные.
AML.TA0010 Эксфильтрация
AML.T0025 Эксфильтрация киберсредствами
Команда эксфильтровала модель и данные обычными киберсредствами.
AML.TA0001 Подготовка атаки на ИИ
AML.T0043.000 Оптимизация в режиме белого ящика
Используя целевую модель и данные, красная команда в офлайн-режиме подготовила состязательные данные, рассчитанные на обход модели.
AML.TA0000 Доступ к ИИ-модели
AML.T0040 Доступ к API инференса ИИ-модели
Команда использовала открытый API для доступа к целевой модели.
AML.TA0001 Подготовка атаки на ИИ
AML.T0042 Проверка атаки
Команда отправила состязательные примеры в API, чтобы проверить их эффективность в продакшен-системе.
AML.TA0011 Воздействие
AML.T0015 Обход ИИ-модели
Команда провела онлайн-атаку обхода, повторно отправив состязательные примеры, и достигла своих целей.