Глоссарий ATLAS
Тактики
Тактики описывают тактические цели злоумышленника во время атаки. Они отвечают на вопрос «зачем» применяется техника: какую цель преследует действие. Тактики служат полезными контекстными категориями для отдельных техник и охватывают стандартные обозначения действий, которые злоумышленники выполняют в ходе операции.[1]
Тактики ATLAS представляют новые цели злоумышленников, характерные для систем искусственного интеллекта, а также тактики, адаптированные из MITRE ATT&CK® Enterprise Matrix. В таких случаях определения тактик ATT&CK расширены, чтобы включить понятия ИИ.
Техники
Техники описывают способы, с помощью которых злоумышленники достигают тактических целей. Они отвечают на вопрос «как» злоумышленник достигает тактической цели, выполняя определенное действие.[1] Для каждой тактики может быть несколько техник, потому что тактических целей можно достигать разными способами.
Например, злоумышленник может получить первичный доступ, скомпрометировав цепочку поставок ИИ. Техники также могут описывать «что» злоумышленник получает в результате действия.
Зрелость
Уровень доказательств, подтверждающих использование техники злоумышленниками в реальных условиях.
- Возможна: работает в исследовательских или контролируемых условиях, но не обязательно продемонстрирована в реалистичных операциях.
- Продемонстрирована: показывает эффективность в реалистичных учениях, тестировании или репрезентативных условиях развертывания.
- Реализована: наблюдалась в реальных инцидентах или операциях злоумышленников против ИИ-систем.
Примечание: это поле автоматически выводится из использования техники в кейсах.
Платформа
Система, в которой действует злоумышленник.
- Предиктивный ИИ: злоумышленник действует против ИИ-компонентов системы, которые анализируют данные, чтобы классифицировать, оценивать, ранжировать, прогнозировать или рекомендовать результаты; целями могут быть признаки, модели, обучающие данные, логика инференса и пороги принятия решений.
- Генеративный ИИ: злоумышленник действует против ИИ-компонентов системы, которые генерируют новый контент, например текст, код, изображения, аудио или видео; целями могут быть промпты, выходные данные модели, защитные механизмы, контекст извлечения и пайплайны генерации.
- Агентный ИИ: злоумышленник действует против ИИ-компонентов системы, способных автономно планировать, принимать решения и выполнять многошаговые действия, часто с памятью, использованием инструментов и оркестрацией рабочих процессов; целями могут быть логика агента, циклы планирования, интеграции инструментов и политики управления.
- Корпоративная среда: злоумышленник действует против стандартных ИТ-компонентов организации в составе ИИ-системы, например пользовательских конечных устройств, серверов, сетей, систем идентификации, бизнес-приложений и облачных или SaaS-сервисов, а не против ИИ-специфичных компонентов.
Техники помечаются одной или несколькими платформами, что помогает пользователям определить, какие техники релевантны для их системы.
Кейсы
Дата инцидента
Период времени, когда произошел инцидент или упражнение, описанное в кейсе.
Участник
Группа, которая выполнила операцию. Это может быть группа угроз или злоумышленник, ответственный за инцидент, исследователи, AI red team или команда безопасности, проводившая демонстрацию.
Репортер
Группа, которая выявила и сообщила об инциденте или упражнении. Если речь идет об упражнении, репортером может быть участник.
Цель
Система или организация-жертва, на которую был нацелен участник.
Тип
Указывает, описывает ли кейс реальный инцидент или упражнение с реалистичной моделью угроз и репрезентативной целевой системой.
Термины мер защиты
Этапы жизненного цикла ИИ
Определяют этап жизненного цикла ИИ[1], на котором мера защиты преимущественно планируется, внедряется или сопровождается.
| Название этапа | Описание |
|---|---|
| Понимание бизнеса и данных | Определение границ и требований проекта, а также сбор данных |
| Подготовка данных | Очистка данных, аугментация данных и разработка устойчивого пайплайна данных |
| Инжиниринг ИИ-модели | Определение метрик качества, выбор архитектуры модели и обучение модели |
| Оценка ИИ-модели | Повышение объяснимости модели и проверка того, что разработанная модель соответствует потребностям проекта, а также ограничениям по рискам и безопасности |
| Развертывание | Настройка продакшен-среды и ввод проверенной ML-модели в эксплуатацию |
| Мониторинг и сопровождение | Постоянная оценка развернутой модели, чтобы убедиться, что она продолжает соответствовать требованиям обеспечения качества |
Меры защиты помечаются одним или несколькими этапами жизненного цикла, чтобы команды на каждом этапе могли выявлять угрозы, влияющие на требования их задач, и возможные способы снижения рисков.
Категории
Широкий подход к снижению риска от техник злоумышленников.
- Политика: процедуры и процессы, регулирующие использование, сопровождение и развертывание инструментов.
- Техническая - ИИ: ИИ-специфичные аппаратные, программные и технологические системы, реализованные для снижения угроз.
- Техническая - кибер: киберспецифичные аппаратные, программные и технологические системы, реализованные для снижения угроз.
Меры защиты помечаются одной или несколькими категориями, чтобы помочь определить команду, которая должна внедрять меру защиты.