Матрица ATLAS для ИИ-систем

Тактики и техники из официального набора данных ATLAS.

Разведка 9 техник Подготовка ресурсов 9 техник Адаптация атак, связанных с ИИ 11 техник Первичный доступ 10 техник Доступ к ИИ-модели 4 техники Выполнение 6 техник Закрепление 11 техник Повышение привилегий 4 техники Уклонение от защиты 18 техник Доступ к учетным данным 7 техник Выявление 10 техник Латеральное перемещение 5 техник Сбор материалов 6 техник Командование и управление 5 техник Эксфильтрация 6 техник Воздействие 10 техник

AML.T0000 Поиск в открытых технических базах данных AML.T0001 Поиск открытых материалов по анализу уязвимостей ИИ AML.T0003 Поиск на сайтах организации-жертвы AML.T0004 Поиск в репозиториях приложений AML.T0006 Активное сканирование AML.T0064 Сбор целей, индексируемых RAG AML.T0087 Сбор сведений о личности жертвы AML.T0095 Поиск на открытых сайтах и доменах AML.T0116 Автономная разведка

AML.T0002 Получение публичных ИИ-артефактов AML.T0008 Получение инфраструктуры AML.T0016 Получение средств для атаки AML.T0017 Разработка средств для атаки AML.T0021 Создание учетных записей AML.T0060 Публикация галлюцинированных сущностей AML.T0079 Размещение средств атаки AML.T0115 Публикация отравленных ИИ-артефактов AML.T0128 Компрометация инфраструктуры

AML.T0005 Создание прокси-модели ИИ AML.T0018 Манипуляция ИИ-моделью AML.T0042 Проверка атаки AML.T0043 Создание состязательных данных AML.T0065 Создание промптов для LLM AML.T0066 Подготовка содержимого для извлечения AML.T0088 Создание дипфейков AML.T0102 Генерация вредоносных команд AML.T0117 Автономная адаптация пути атаки AML.T0118 Коммуникация автономных ИИ-агентов AML.T0124 Автономная оркестрация атаки

AML.T0010 Компрометация цепочки поставок ИИ AML.T0012 Действующие учетные записи AML.T0015 Обход ИИ-модели AML.T0049 Эксплуатация приложения, доступного из интернета AML.T0052 Фишинг AML.T0078 Компрометация при посещении сайта AML.T0093 Внедрение промпта через публичное приложение AML.T0119 Эксплуатация автоматизированного пайплайна обработки артефактов AML.T0131 Специально сформированные ссылки на ИИ-ассистента AML.T0132 ИИ-сервисы с ошибками конфигурации или публичным доступом

AML.T0040 Доступ к API инференса ИИ-модели AML.T0041 Доступ к физической среде AML.T0044 Полный доступ к ИИ-модели AML.T0047 Продукт или сервис с поддержкой ИИ

AML.T0011 Запуск пользователем AML.T0050 Интерпретатор команд и сценариев AML.T0051 Промпт-инъекция в LLM AML.T0053 Вызов инструментов ИИ-агента AML.T0100 Кликбейт для ИИ-агента AML.T0103 Развертывание ИИ-агента

AML.T0018 Манипуляция ИИ-моделью AML.T0020 Отравление обучающих данных AML.T0061 Саморепликация промпта LLM AML.T0070 Отравление RAG AML.T0080 Отравление контекста ИИ-агента AML.T0081 Изменение конфигурации ИИ-агента AML.T0093 Внедрение промпта через публичное приложение AML.T0099 Отравление данных инструмента ИИ-агента AML.T0110 Отравление инструмента ИИ-агента AML.T0121 Восстановление среды ИИ-агента AML.T0125 Создание учётной записи

AML.T0012 Действующие учетные записи AML.T0053 Вызов инструментов ИИ-агента AML.T0054 Джейлбрейк LLM AML.T0105 Выход на хост

AML.T0015 Обход ИИ-модели AML.T0054 Джейлбрейк LLM AML.T0067 Манипуляция доверенными компонентами ответа LLM AML.T0068 Обфускация промпта LLM AML.T0071 Внедрение ложной записи RAG AML.T0073 Имперсонация AML.T0074 Маскировка AML.T0076 Повреждение ИИ-модели AML.T0081 Изменение конфигурации ИИ-агента AML.T0092 Изменение истории чата пользователя с LLM AML.T0094 Отложенное выполнение инструкций LLM AML.T0097 Обход виртуализации и песочниц AML.T0107 Эксплуатация уязвимостей для обхода защиты AML.T0109 Подмена компонента после одобрения в цепочке поставок ИИ AML.T0111 Накрутка репутации в цепочке поставок ИИ AML.T0123 Обфусцированные файлы или информация AML.T0129 Триггеры в мультимодальных входных данных AML.T0134 Клоакинг, нацеленный на ИИ

AML.T0055 Незащищенные учетные данные AML.T0082 Сбор учетных данных через RAG AML.T0083 Учетные данные из конфигурации ИИ-агента AML.T0090 Дамп учетных данных ОС AML.T0098 Сбор учетных данных через инструменты ИИ-агента AML.T0106 Эксплуатация уязвимостей для доступа к учетным данным AML.T0113 Кража cookie веб-сессии

AML.T0007 Выявление ИИ-артефактов AML.T0013 Выявление онтологии ИИ-модели AML.T0014 Выявление семейства ИИ-модели AML.T0062 Выявление галлюцинированных сущностей LLM AML.T0063 Выявление выходных данных ИИ-модели AML.T0069 Выявление системной информации LLM AML.T0075 Выявление корпоративных ресурсов AML.T0084 Выявление конфигурации ИИ-агента AML.T0089 Изучение корпоративной среды AML.T0133 Выявление возможностей ИИ-агента во время работы

AML.T0012 Действующие учетные записи AML.T0052 Фишинг AML.T0053 Вызов инструментов ИИ-агента AML.T0091 Использование альтернативных средств аутентификации AML.T0122 Эксплуатация удалённых сервисов

AML.T0035 Сбор ИИ-артефактов AML.T0036 Данные из информационных репозиториев AML.T0037 Данные из локальной системы AML.T0085 Данные из ИИ-сервисов AML.T0126 Автоматизированный сбор материалов AML.T0127 Промежуточное хранение данных

AML.T0072 Канал связи в киберпространстве AML.T0096 API ИИ-сервиса AML.T0108 ИИ-агент AML.T0114 Веб-интерфейс ИИ-сервиса AML.T0120 Репозиторий ИИ-артефактов

AML.T0024 Эксфильтрация через API инференса ИИ AML.T0025 Эксфильтрация киберсредствами AML.T0056 Извлечение системного промпта LLM AML.T0057 Утечка данных из LLM AML.T0077 Рендеринг ответа LLM AML.T0086 Эксфильтрация через вызов инструмента ИИ-агента

AML.T0015 Обход ИИ-модели AML.T0029 Отказ в обслуживании ИИ-сервиса AML.T0031 Нарушение целостности ИИ-модели AML.T0034 Искусственное увеличение затрат AML.T0046 Зашумление ИИ-системы нерелевантными данными AML.T0048 Внешний ущерб AML.T0059 Нарушение целостности набора данных AML.T0101 Уничтожение данных через вызов инструмента ИИ-агента AML.T0112 Компрометация машины AML.T0130 Формирование предвзятых ответов ИИ-агента