Техники
Техники описывают, как злоумышленник достигает тактических целей против AI-систем: получает доступ к модели, подготавливает атаку, вмешивается в данные, извлекает информацию или влияет на поведение системы.
| ID | Название | Описание | Зрелость |
|---|---|---|---|
| AML.T0000 | Поиск в открытых технических базах данных Search Open Technical Databases | Злоумышленники могут искать общедоступные исследования и техническую документацию, чтобы понять, как и где ИИ используется в организации-жертве. Эти сведения могут помочь злоумышленнику выбрать цели для атаки или... | Продемонстрированная |
| AML.T0000.000 | Журналы и материалы конференций Journals and Conference Proceedings | Многие публикации, принимаемые ведущими конференциями и журналами по искусственному интеллекту, поступают из коммерческих лабораторий. Некоторые журналы и материалы конференций находятся в открытом доступе, другие... | Возможная |
| AML.T0000.001 | Репозитории препринтов Pre-Print Repositories | Репозитории препринтов, такие как arXiv, содержат последние научные публикации, которые еще не прошли рецензирование. Они могут содержать исследовательские заметки или технические отчеты, которые обычно не публикуются... | Продемонстрированная |
| AML.T0000.002 | Технические блоги Technical Blogs | Исследовательские лаборатории в академических организациях и R&D-подразделения компаний часто ведут блоги, где рассказывают об использовании искусственного интеллекта и его применении к специфическим задачам... | Возможная |
| AML.T0001 | Поиск открытых материалов по анализу уязвимостей ИИ Search Open AI Vulnerability Analysis | Как и при поиске в открытых технических базах данных, в открытом доступе часто можно найти исследования об уязвимостях распространенных ИИ-моделей. После выбора цели злоумышленник, вероятно, попытается найти уже... | Продемонстрированная |
| AML.T0002 | Получение публичных ИИ-артефактов Acquire Public AI Artifacts | Злоумышленники могут искать в публичных источниках, включая облачные хранилища, публично доступные сервисы, а также репозитории ПО или данных, чтобы выявить ИИ-артефакты. Такие ИИ-артефакты могут включать программный... | Реализованная |
| AML.T0002.000 | Наборы данных Datasets | Злоумышленники могут собирать публичные наборы данных для использования в своих операциях. Наборы данных, используемые организацией-жертвой, или наборы данных, репрезентативные по отношению к данным... | Продемонстрированная |
| AML.T0002.001 | Модели Models | Злоумышленники могут получать публичные модели для использования в своих операциях. Злоумышленники могут искать модели, используемые организацией-жертвой, или модели, репрезентативные по отношению к моделям, которые... | Продемонстрированная |
| AML.T0002.002 | Конфигурация ИИ-агента AI Agent Configuration | Злоумышленники могут получать публично доступные файлы конфигурации ИИ-агентов, чтобы понять возможности агента, получить несанкционированный доступ к инструментам и источникам данных или выявить учетные данные для... | Продемонстрированная |
| AML.T0003 | Поиск на сайтах организации-жертвы Search Victim-Owned Websites | Злоумышленники могут искать на сайтах, принадлежащих жертве, информацию, которую можно использовать при выборе целей. Сайты организации-жертвы могут содержать технические сведения о продуктах или сервисах с поддержкой... | Продемонстрированная |
| AML.T0004 | Поиск в репозиториях приложений Search Application Repositories | Злоумышленники могут искать в открытых репозиториях приложений при выборе целей. Примеры таких репозиториев включают Google Play, iOS App Store, macOS App Store и Microsoft Store. Злоумышленники могут составлять... | Продемонстрированная |
| AML.T0005 | Создание прокси-модели ИИ Create Proxy AI Model | Злоумышленники могут получать модели, которые будут служить прокси для целевой модели, используемой в организации-жертве. Прокси-модели используются, чтобы имитировать полный доступ к целевой модели полностью в... | Продемонстрированная |
| AML.T0005.000 | Обучение прокси-модели на собранных ИИ-артефактах Train Proxy via Gathered AI Artifacts | Прокси-модели могут обучаться на ИИ-артефактах, собранных злоумышленником и репрезентативных по отношению к целевой модели, например на данных, архитектурах моделей и предварительно обученных моделях. Это может... | Продемонстрированная |
| AML.T0005.001 | Обучение прокси-модели через репликацию Train Proxy via Replication | Злоумышленники могут реплицировать закрытую модель. Многократно обращаясь к API инференса ИИ-модели жертвы, злоумышленник может собрать результаты инференса целевой модели в набор данных. Эти результаты используются... | Продемонстрированная |
| AML.T0005.002 | Использование предварительно обученной модели Use Pre-Trained Model | Злоумышленники могут использовать готовую предварительно обученную модель как прокси для модели организации-жертвы, чтобы помочь в подготовке атаки. | Возможная |
| AML.T0006 | Активное сканирование Active Scanning | Злоумышленник может зондировать или сканировать систему жертвы, чтобы собрать информацию для выбора целей. Это отличается от других техник разведки, которые не предполагают прямого взаимодействия с системой жертвы.... | Реализованная |
| AML.T0007 | Выявление ИИ-артефактов Discover AI Artifacts | Злоумышленники могут искать в закрытых источниках артефакты обучения ИИ, присутствующие в системе, и собирать сведения о них. К таким артефактам могут относиться программный стек, используемый для обучения и... | Продемонстрированная |
| AML.T0008 | Получение инфраструктуры Acquire Infrastructure | Злоумышленники могут покупать, арендовать или брать во временное пользование инфраструктуру для использования на протяжении своей операции. Для размещения и оркестрации операций злоумышленников существует широкий... | Реализованная |
| AML.T0008.000 | Рабочие пространства для разработки ИИ AI Development Workspaces | Разработка и подготовка атак на ИИ часто требует дорогостоящих вычислительных ресурсов. Для разработки атаки злоумышленникам может потребоваться доступ к одному или нескольким GPU. Они могут пытаться анонимно... | Продемонстрированная |
| AML.T0008.001 | Потребительское оборудование Consumer Hardware | Злоумышленники могут приобретать потребительское оборудование для проведения своих атак. Владение оборудованием дает злоумышленнику полный контроль над средой. Такие устройства может быть трудно отследить. | Реализованная |
| AML.T0008.002 | Домены Domains | Злоумышленники могут приобретать домены, которые можно использовать при выборе целей. Доменные имена — это человекочитаемые имена, используемые для представления одного или нескольких IP-адресов. Их можно купить или,... | Продемонстрированная |
| AML.T0008.003 | Физические средства противодействия Physical Countermeasures | Злоумышленники могут приобретать или изготавливать физические средства противодействия, чтобы способствовать своей атаке или поддерживать ее. Эти компоненты могут использоваться для нарушения работы или ухудшения... | Продемонстрированная |
| AML.T0008.004 | Serverless-инфраструктура Serverless | Злоумышленники могут приобретать и настраивать serverless-облачную инфраструктуру, например Cloudflare Workers, функции AWS Lambda или Google Apps Scripts, которую можно использовать при выборе целей. Используя... | Возможная |
| AML.T0008.005 | Прокси для ИИ-сервисов AI Service Proxies | Злоумышленники могут использовать коммерческие прокси-сервисы, которые перепродают доступ к ИИ-сервисам, например API передовых моделей. Эта инфраструктура может использоваться для проведения крупномасштабных кампаний... | Реализованная |
| AML.T0010 | Компрометация цепочки поставок ИИ AI Supply Chain Compromise | Злоумышленники могут получить первичный доступ к системе, скомпрометировав части цепочки поставок, специфичные для ИИ. Это может включать аппаратное обеспечение, данные и их аннотации, части стека ПО для ИИ или саму... | Реализованная |
| AML.T0010.000 | Аппаратное обеспечение Hardware | Злоумышленники могут атаковать ИИ-системы, нарушая работу цепочки поставок аппаратного обеспечения или манипулируя ею. ИИ-модели часто работают на специализированном оборудовании, таком как GPU, TPU или встраиваемые... | Возможная |
| AML.T0010.001 | ПО для ИИ AI Software | Злоумышленники могут нацеливаться на программные пакеты, которые широко используются в системах с поддержкой ИИ или являются частью жизненного цикла AI DevOps. Это может включать фреймворки глубокого обучения,... | Реализованная |
| AML.T0010.002 | Данные Data | Данные являются для злоумышленников ключевым вектором компрометации цепочки поставок. Любой ИИ-проект требует данных в той или иной форме. Многие проекты опираются на крупные общедоступные открытые наборы данных.... | Реализованная |
| AML.T0010.003 | Модель Model | Системы с поддержкой ИИ часто по-разному опираются на модели с открытым исходным кодом. Чаще всего организация-жертва может использовать такие модели для дообучения. Эти модели загружаются из внешнего источника и... | Реализованная |
| AML.T0010.004 | Реестр контейнеров Container Registry | Злоумышленник может скомпрометировать реестр контейнеров организации-жертвы, загрузив измененный образ контейнера и перезаписав существующее имя контейнера и/или тег. Пользователи реестра контейнеров, а также... | Продемонстрированная |
| AML.T0010.005 | Инструмент ИИ-агента AI Agent Tool | Злоумышленники могут нацеливаться на инструменты ИИ-агентов как на способ компрометации цепочки поставок ИИ организации-жертвы. Инструменты добавляют ИИ-агентам возможности, позволяя им взаимодействовать с другими... | Реализованная |
| AML.T0011 | Запуск пользователем User Execution | Злоумышленник может полагаться на определенные действия пользователя, чтобы добиться выполнения кода. Пользователи могут непреднамеренно выполнить небезопасный код, внедренный через компрометацию цепочки поставок ИИ.... | Реализованная |
| AML.T0011.000 | Небезопасные ИИ-артефакты Unsafe AI Artifacts | Злоумышленники могут разрабатывать небезопасные ИИ-артефакты, которые при запуске оказывают вредоносное воздействие. Злоумышленник может использовать эту технику для закрепления постоянного доступа к системам. Такие... | Реализованная |
| AML.T0011.001 | Вредоносный пакет Malicious Package | Злоумышленники могут разрабатывать вредоносные программные пакеты, которые при импорте пользователем оказывают вредоносное воздействие. Вредоносные пакеты могут вести себя так, как ожидает пользователь. Они могут... | Реализованная |
| AML.T0011.002 | Отравленный инструмент ИИ-агента Poisoned AI Agent Tool | Жертва может вызвать отравленный инструмент при взаимодействии со своим ИИ-агентом. Отравленный инструмент может выполнить промпт-инъекцию в LLM или инициировать вызов инструмента ИИ-агента. Отравленные инструменты... | Реализованная |
| AML.T0011.003 | Вредоносная ссылка Malicious Link | Злоумышленник может рассчитывать на то, что пользователь перейдет по вредоносной ссылке, чтобы добиться выполнения кода. Пользователя могут подвергнуть социальной инженерии и заставить перейти по ссылке, которая... | Продемонстрированная |
| AML.T0012 | Действующие учетные записи Valid Accounts | Злоумышленники могут получать учетные данные существующих учетных записей и злоупотреблять ими как средством получения первичного доступа. Учетные данные могут включать имена пользователей и пароли отдельных учетных... | Реализованная |
| AML.T0013 | Выявление онтологии ИИ-модели Discover AI Model Ontology | Злоумышленники могут выявлять онтологию выходного пространства ИИ-модели, например типы объектов, которые модель способна обнаруживать. Злоумышленник может выявить онтологию с помощью повторяющихся запросов к модели,... | Продемонстрированная |
| AML.T0014 | Выявление семейства ИИ-модели Discover AI Model Family | Злоумышленники могут выявлять общее семейство модели. Общие сведения о модели могут быть раскрыты в документации, либо злоумышленник может использовать специально подготовленные примеры и анализировать ответы модели,... | Возможная |
| AML.T0015 | Обход ИИ-модели Evade AI Model | Злоумышленники могут создавать состязательные данные, которые мешают ИИ-модели корректно определить содержимое данных, или создавать дипфейки, обманывающие ИИ-модель, рассчитанную на подлинные данные. Эта техника... | Реализованная |
| AML.T0016 | Получение средств для атаки Obtain Capabilities | Злоумышленники могут искать и получать программные средства для использования в своих операциях. Такие средства могут быть специфичны для атак на основе ИИ, например готовые реализации состязательных атак на ИИ, либо... | Реализованная |
| AML.T0016.000 | Готовые реализации состязательных атак на ИИ Adversarial AI Attack Implementations | Злоумышленники могут искать существующие реализации атак на ИИ с открытым исходным кодом. Исследовательское сообщество часто публикует код для воспроизводимости результатов и дальнейшего развития исследований.... | Реализованная |
| AML.T0016.001 | Программные инструменты Software Tools | Злоумышленники могут искать и получать программные инструменты для поддержки своих операций. ПО, разработанное для легитимного использования, может быть переиспользовано злоумышленником во вредоносных целях.... | Реализованная |
| AML.T0016.002 | Генеративный ИИ Generative AI | Злоумышленники могут искать и получать модели или инструменты генеративного ИИ, например большие языковые модели (LLM), чтобы использовать их на разных этапах своей операции. Генеративный ИИ может применяться... | Реализованная |
| AML.T0017 | Разработка средств для атаки Develop Capabilities | Злоумышленники могут разрабатывать собственные средства для поддержки своих операций. Этот процесс включает определение требований, создание решений и развертывание средств. Средства, используемые для поддержки атак... | Реализованная |
| AML.T0017.000 | Состязательные атаки на ИИ Adversarial AI Attacks | Злоумышленники могут разрабатывать собственные состязательные атаки. Они могут использовать существующие библиотеки как отправную точку (готовые реализации состязательных атак на ИИ). Они могут реализовывать идеи,... | Продемонстрированная |
| AML.T0018 | Манипуляция ИИ-моделью Manipulate AI Model | Злоумышленники могут напрямую манипулировать ИИ-моделью, чтобы изменить ее поведение или внедрить вредоносный код. Манипуляция моделью дает злоумышленнику устойчивое изменение в системе. Это может включать отравление... | Реализованная |
| AML.T0018.000 | Отравление ИИ-модели Poison AI Model | Злоумышленники могут манипулировать весами ИИ-модели, чтобы изменить ее поведение или производительность, в результате чего появляется отравленная модель. Злоумышленники могут отравить модель, напрямую манипулируя ее... | Продемонстрированная |
| AML.T0018.001 | Изменение архитектуры ИИ-модели Modify AI Model Architecture | Злоумышленники могут напрямую изменять архитектуру ИИ-модели, чтобы повлиять на ее поведение. Это может включать добавление или удаление слоев, а также добавление операций предобработки или постобработки. Последствия... | Продемонстрированная |
| AML.T0018.002 | Встраивание вредоносного ПО Embed Malware | Злоумышленники могут встраивать вредоносный код в файлы ИИ-моделей. ИИ-модели могут распространяться как сочетание инструкций и весов. Некоторые форматы, например pickle-файлы, небезопасно десериализовать, поскольку... | Реализованная |
| AML.T0019 | Публикация отравленных наборов данных Publish Poisoned Datasets | Злоумышленники могут отравить обучающие данные и опубликовать их в публичном месте. Отравленный набор данных может быть новым набором данных или отравленным вариантом существующего набора данных с открытым исходным... | Продемонстрированная |
| AML.T0020 | Отравление обучающих данных Poison Training Data | Злоумышленники могут пытаться отравить наборы данных, используемые ИИ-моделью, изменяя исходные данные или их метки. Это позволяет злоумышленнику встроить в ИИ-модели, обученные на этих данных, уязвимости, которые... | Реализованная |
| AML.T0021 | Создание учетных записей Establish Accounts | Злоумышленники могут создавать учетные записи в различных сервисах, чтобы использовать их при выборе целей, получить доступ к ресурсам, необходимым для подготовки атаки на ИИ, или выдавать себя за жертву. | Реализованная |
| AML.T0024 | Эксфильтрация через API инференса ИИ Exfiltration via AI Inference API | Злоумышленники могут эксфильтровать приватную информацию через доступ к API инференса ИИ-модели. Известно, что ИИ-модели могут раскрывать приватную информацию о своих обучающих данных, например при выводе... | Возможная |
| AML.T0024.000 | Определение принадлежности к обучающей выборке Infer Training Data Membership | Злоумышленники могут определить, входил ли конкретный образец данных в обучающую выборку модели, или выявить общие характеристики данных в этой выборке. Это создает риски для конфиденциальности. Некоторые подходы... | Возможная |
| AML.T0024.001 | Инверсия ИИ-модели Invert AI Model | Обучающие данные ИИ-модели могут быть реконструированы за счет использования оценок уверенности модели, доступных через API инференса. Стратегически отправляя запросы к API инференса, злоумышленники могут восстановить... | Возможная |
| AML.T0024.002 | Извлечение ИИ-модели Extract AI Model | Злоумышленники могут извлечь функциональную копию приватной модели. Многократно обращаясь к API инференса ИИ-модели организации-жертвы, злоумышленник может собрать результаты инференса целевой модели в набор данных.... | Возможная |
| AML.T0025 | Эксфильтрация киберсредствами Exfiltration via Cyber Means | Злоумышленники могут эксфильтровать ИИ-артефакты или другую информацию, важную для их целей, традиционными киберсредствами. Подробнее см. тактику ATT&CK Exfiltration. | Реализованная |
| AML.T0029 | Отказ в обслуживании ИИ-сервиса Denial of AI Service | Злоумышленники могут нацеливаться на системы с поддержкой ИИ, отправляя поток запросов, чтобы снизить качество работы сервиса или вывести его из строя. Поскольку многим ИИ-системам требуются значительные объемы... | Продемонстрированная |
| AML.T0031 | Нарушение целостности ИИ-модели Erode AI Model Integrity | Злоумышленники могут снижать производительность целевой модели с помощью состязательных входных данных, чтобы со временем подорвать доверие к системе. Это может привести к тому, что организация-жертва будет тратить... | Реализованная |
| AML.T0034 | Искусственное увеличение затрат Cost Harvesting | Злоумышленники могут намеренно нагружать ИИ-сервисы жертвы сверх штатной пропускной способности, чтобы увеличить стоимость обслуживания. Этого можно добиться с помощью большого числа простых запросов (чрезмерные... | Возможная |
| AML.T0034.000 | Чрезмерные запросы Excessive Queries | Злоумышленники могут отправлять в ИИ-систему чрезмерное количество обычных или малоресурсоемких запросов, чтобы перегрузить ее пропускную способность и увеличить операционные расходы. Злоумышленник может... | Возможная |
| AML.T0034.001 | Ресурсоёмкие запросы Resource-Intensive Queries | Злоумышленники могут создавать входные данные, специально рассчитанные на увеличение объёма вычислительных ресурсов, необходимых для обработки. Для моделей генеративного ИИ злоумышленники могут использовать длинные... | Возможная |
| AML.T0034.002 | Потребление ресурсов агентом Agentic Resource Consumption | Злоумышленники могут вынуждать агентную ИИ-систему выполнять вычислительно затратные вызовы инструментов, которые расходуют ресурсы и бюджеты API. Для этого они могут использовать промпт-инъекцию в LLM или отравление... | Возможная |
| AML.T0035 | Сбор ИИ-артефактов AI Artifact Collection | Злоумышленники могут собирать ИИ-артефакты для эксфильтрации или использования при подготовке атак на ИИ. ИИ-артефакты включают модели и наборы данных, а также другие телеметрические данные, возникающие при... | Реализованная |
| AML.T0036 | Данные из информационных репозиториев Data from Information Repositories | Злоумышленники могут использовать информационные репозитории для поиска ценных сведений. Информационные репозитории — это инструменты для хранения информации, обычно предназначенные для совместной работы или обмена... | Реализованная |
| AML.T0037 | Данные из локальной системы Data from Local System | Злоумышленники могут искать в локальных источниках системы, таких как файловые системы, конфигурационные файлы или локальные базы данных, чтобы найти интересующие файлы и чувствительные данные перед эксфильтрацией.... | Реализованная |
| AML.T0040 | Доступ к API инференса ИИ-модели AI Model Inference API Access | Злоумышленники могут получить доступ к модели через легитимный доступ к API инференса. Доступ к API инференса может быть для злоумышленника источником информации (выявление онтологии ИИ-модели, выявление семейства... | Реализованная |
| AML.T0041 | Доступ к физической среде Physical Environment Access | Помимо атак, происходящих исключительно в цифровом домене, злоумышленники могут использовать для атак физическую среду. Если модель каким-либо образом взаимодействует с данными, собираемыми из реального мира,... | Продемонстрированная |
| AML.T0042 | Проверка атаки Verify Attack | Злоумышленники могут проверить эффективность своей атаки через API инференса или с помощью доступа к офлайн-копии целевой модели. Это даёт злоумышленнику уверенность, что выбранный подход работает, и позволяет... | Продемонстрированная |
| AML.T0043 | Создание состязательных данных Craft Adversarial Data | Состязательные данные — это входные данные для ИИ-модели, модифицированные так, чтобы вызвать в целевой модели нужный злоумышленнику эффект. Такие эффекты могут варьироваться от ошибочной классификации и пропусков... | Реализованная |
| AML.T0043.000 | Оптимизация в режиме белого ящика White-Box Optimization | При оптимизации в режиме белого ящика злоумышленник имеет полный доступ к целевой модели и напрямую оптимизирует состязательный пример. Состязательные примеры, обученные таким способом, наиболее эффективны против... | Продемонстрированная |
| AML.T0043.001 | Оптимизация в режиме чёрного ящика Black-Box Optimization | При атаках в режиме чёрного ящика злоумышленник имеет доступ к целевой модели в режиме чёрного ящика, то есть через доступ к API инференса ИИ-модели. При таких атаках злоумышленник может использовать API, который... | Продемонстрированная |
| AML.T0043.002 | Перенос на модель чёрного ящика Black-Box Transfer | При атаках с переносом на модель чёрного ящика злоумышленник использует одну или несколько прокси-моделей, к которым у него есть полный доступ и которые близки по поведению к целевой модели. Такие прокси-модели могут... | Продемонстрированная |
| AML.T0043.003 | Ручная модификация Manual Modification | Злоумышленники могут вручную изменять входные данные, чтобы создавать состязательные данные. Они могут использовать свои знания о целевой модели и изменять те части данных, которые, по их предположению, помогают... | Реализованная |
| AML.T0043.004 | Добавление бэкдор-триггера Insert Backdoor Trigger | Злоумышленник может встроить бэкдор-триггер во входные данные, подаваемые на инференс. Такой триггер может быть незаметен или неочевиден для человека. Эта техника применяется вместе с отравлением ИИ-модели и позволяет... | Продемонстрированная |
| AML.T0044 | Полный доступ к ИИ-модели Full AI Model Access | Злоумышленники могут получить полный доступ к ИИ-модели в режиме «белого ящика». Это означает, что злоумышленник полностью знает архитектуру модели, её параметры и онтологию классов. Он может эксфильтрировать модель,... | Продемонстрированная |
| AML.T0046 | Зашумление ИИ-системы нерелевантными данными Spamming AI System with Chaff Data | Злоумышленники могут перегружать ИИ-систему нерелевантными данными, из-за которых растёт число срабатываний. В результате аналитики организации-жертвы могут тратить время на проверку и исправление неверных инференсов.... | Возможная |
| AML.T0047 | Продукт или сервис с поддержкой ИИ AI-Enabled Product or Service | Злоумышленники могут использовать продукт или сервис, в котором искусственный интеллект применяется как часть внутренней реализации, чтобы получить доступ к лежащей в его основе ИИ-модели. Такой непрямой доступ к... | Реализованная |
| AML.T0048 | Внешний ущерб External Harms | Злоумышленники могут злоупотреблять доступом к системе организации-жертвы и использовать ее ресурсы или возможности для достижения своих целей, причиняя ущерб за пределами этой системы. Такой ущерб может затрагивать... | Реализованная |
| AML.T0048.000 | Финансовый ущерб Financial Harm | Финансовый ущерб включает потерю денежных средств, имущества или других монетарных активов в результате кражи, мошенничества или подделки либо из-за давления с целью вынудить жертву предоставить финансовые ресурсы... | Реализованная |
| AML.T0048.001 | Репутационный ущерб Reputational Harm | Репутационный ущерб включает ухудшение общественного восприятия организации и доверия к ней. К инцидентам, наносящим репутационный ущерб, относятся, например, скандалы или ложная имперсонация. | Продемонстрированная |
| AML.T0048.002 | Общественный вред Societal Harm | Общественный вред может приводить к негативным последствиям, затрагивающим широкую общественность или отдельные уязвимые группы, например к демонстрации детям непристойного контента. | Реализованная |
| AML.T0048.003 | Ущерб пользователям User Harm | Ущерб пользователям может включать разные виды вреда, в том числе финансовый и репутационный, которые направлены на отдельных жертв атаки или ощущаются ими, а не проявляются на уровне организации. | Реализованная |
| AML.T0048.004 | Кража интеллектуальной собственности ИИ AI Intellectual Property Theft | Злоумышленники могут эксфильтровать ИИ-артефакты, чтобы украсть интеллектуальную собственность и причинить экономический ущерб организации-жертве. Проприетарные обучающие данные дорого собирать и размечать, поэтому... | Реализованная |
| AML.T0049 | Эксплуатация приложения, доступного из интернета Exploit Public-Facing Application | Злоумышленники могут пытаться использовать слабое место в доступном из интернета компьютере или программе с помощью ПО, данных или команд, чтобы вызвать непреднамеренное или непредусмотренное поведение. Слабое место в... | Реализованная |
| AML.T0050 | Интерпретатор команд и сценариев Command and Scripting Interpreter | Злоумышленники могут злоупотреблять командными и скриптовыми интерпретаторами для выполнения команд, сценариев или бинарных файлов. Эти интерфейсы и языки предоставляют способы взаимодействия с компьютерными системами... | Продемонстрированная |
| AML.T0051 | Промпт-инъекция в LLM LLM Prompt Injection | Злоумышленник может сформировать вредоносные промпты как входные данные для LLM, чтобы заставить модель действовать непреднамеренным образом. Такие «промпт-инъекции» часто предназначены для того, чтобы модель... | Реализованная |
| AML.T0051.000 | Прямая промпт-инъекция Direct | Злоумышленник может внедрять промпты напрямую, действуя как пользователь LLM. Такой тип инъекции может использоваться злоумышленником для закрепления в системе или для злоупотребления самой LLM, например для генерации... | Реализованная |
| AML.T0051.001 | Косвенная промпт-инъекция Indirect | Злоумышленник может внедрять промпты косвенно через отдельный канал данных, который обрабатывает LLM, например через текст или мультимедийные данные, полученные из баз данных или с веб-сайтов. Такие вредоносные... | Продемонстрированная |
| AML.T0051.002 | Триггерная промпт-инъекция Triggered | Злоумышленник может запускать промпт-инъекцию через действие пользователя или событие, происходящее в среде жертвы. Триггерные промпт-инъекции часто нацелены на ИИ-агентов, которые могут активироваться способами,... | Продемонстрированная |
| AML.T0052 | Фишинг Phishing | Злоумышленники могут отправлять фишинговые сообщения, чтобы получить доступ к системам организации-жертвы. Все формы фишинга представляют собой социальную инженерию, доставляемую по электронным каналам. Фишинг может... | Реализованная |
| AML.T0052.000 | Целевой фишинг через LLM для социальной инженерии Spearphishing via Social Engineering LLM | Злоумышленники могут превращать LLM в инструмент целевой социальной инженерии. LLM способны взаимодействовать с пользователями в текстовых диалогах. Злоумышленник может дать им инструкции выманивать у пользователя... | Продемонстрированная |
| AML.T0052.001 | Фишинг с использованием дипфейков Deepfake-Assisted Phishing | Злоумышленники могут использовать дипфейки, то есть синтетические изображения, аудио или видео, созданные с помощью ИИ, в фишинговых кампаниях, чтобы выдавать себя за доверенных лиц, руководителей или организации.... | Возможная |
| AML.T0053 | Вызов инструментов ИИ-агента AI Agent Tool Invocation | Злоумышленники могут использовать свой доступ к ИИ-агенту, чтобы вызывать инструменты, к которым имеет доступ агент. LLM часто подключают к другим сервисам или ресурсам через инструменты, чтобы расширить их... | Продемонстрированная |
| AML.T0054 | Джейлбрейк LLM LLM Jailbreak | Злоумышленники могут побуждать большую языковую модель (LLM) игнорировать, обходить или переопределять её механизмы безопасности/выравнивания и/или защитные ограничения, чтобы получить ответы, которые модель по... | Реализованная |
| AML.T0055 | Незащищенные учетные данные Unsecured Credentials | Злоумышленники могут искать в скомпрометированных системах учетные данные, которые хранятся небезопасным образом, и получать доступ к ним. Такие учетные данные могут находиться в разных местах системы: в текстовых... | Реализованная |
| AML.T0056 | Извлечение системного промпта LLM Extract LLM System Prompt | Злоумышленники могут пытаться извлечь системный промпт большой языковой модели (LLM). Это можно сделать с помощью промпт-инъекции, чтобы заставить модель раскрыть собственный системный промпт, либо путем извлечения из... | Возможная |
| AML.T0057 | Утечка данных из LLM LLM Data Leakage | Злоумышленники могут создавать промпты, которые заставляют LLM раскрывать чувствительную информацию. К такой информации могут относиться приватные данные пользователей или проприетарная информация. Утекшие данные... | Продемонстрированная |
| AML.T0058 | Публикация отравленных моделей Publish Poisoned Models | Злоумышленники могут публиковать отравленную модель в публичном месте, например в реестре моделей или репозитории кода. Отравленная модель может быть новой моделью или отравленным вариантом существующей модели с... | Реализованная |
| AML.T0059 | Нарушение целостности набора данных Erode Dataset Integrity | Злоумышленники могут отравлять или изменять части набора данных, чтобы снизить его полезность, подорвать доверие к нему и заставить пользователей тратить ресурсы на исправление ошибок. | Продемонстрированная |
| AML.T0060 | Публикация галлюцинированных сущностей Publish Hallucinated Entities | Злоумышленники могут создавать контролируемую ими сущность, например программный пакет, веб-сайт или адрес электронной почты, соответствующие источнику, галлюцинированному LLM. Такие галлюцинации могут принимать форму... | Продемонстрированная |
| AML.T0061 | Саморепликация промпта LLM LLM Prompt Self-Replication | Злоумышленник может использовать тщательно подготовленную промпт-инъекцию в LLM, рассчитанную на то, чтобы заставить LLM воспроизвести промпт как часть своего ответа. Это позволяет промпту распространяться на другие... | Продемонстрированная |
| AML.T0062 | Выявление галлюцинированных сущностей LLM Discover LLM Hallucinations | Злоумышленники могут отправлять запросы большим языковым моделям и выявлять галлюцинированные сущности. Они могут запрашивать программные пакеты, команды, URL-адреса, названия организаций или адреса электронной почты... | Продемонстрированная |
| AML.T0063 | Выявление выходных данных ИИ-модели Discover AI Model Outputs | Злоумышленники могут выявлять выходные данные модели, например оценки классов, наличие которых не требуется для работы системы и которые не предназначены для использования конечным пользователем. Выходные данные... | Продемонстрированная |
| AML.T0064 | Сбор целей, индексируемых RAG Gather RAG-Indexed Targets | Злоумышленники могут выявлять источники данных, используемые в системах RAG (генерации, дополненной извлечением), для выбора целей атаки. Точно определив эти источники, они могут сосредоточиться на отравлении или иной... | Продемонстрированная |
| AML.T0065 | Создание промптов для LLM LLM Prompt Crafting | Злоумышленники могут использовать полученные знания о целевой системе генеративного ИИ для создания промптов, которые обходят ее защитные механизмы и позволяют выполнить вредоносные инструкции. Злоумышленник может... | Реализованная |
| AML.T0066 | Подготовка содержимого для извлечения Retrieval Content Crafting | Злоумышленники могут подготавливать содержимое так, чтобы оно извлекалось по пользовательским запросам и тем или иным образом влияло на пользователя системы. Такая техника злоупотребляет доверием пользователя к... | Продемонстрированная |
| AML.T0067 | Манипуляция доверенными компонентами ответа LLM LLM Trusted Output Components Manipulation | Злоумышленники могут использовать промпты к большой языковой модели (LLM), которые манипулируют различными компонентами ее ответа, чтобы он выглядел заслуживающим доверия для пользователя. Это помогает злоумышленнику... | Продемонстрированная |
| AML.T0067.000 | Ссылки на источники Citations | Злоумышленники могут манипулировать ссылками на источники, приведенными в ответе ИИ-системы, чтобы ответ выглядел заслуживающим доверия. Варианты включают указание неверного источника, создание вымышленного источника... | Продемонстрированная |
| AML.T0068 | Обфускация промпта LLM LLM Prompt Obfuscation | Злоумышленники могут скрывать или иным образом обфусцировать промпт-инъекции либо содержимое для извлечения, чтобы избежать обнаружения людьми, защитными ограничениями большой языковой модели (LLM) или другими... | Продемонстрированная |
| AML.T0069 | Выявление системной информации LLM Discover LLM System Information | Злоумышленник пытается выявить системную информацию большой языковой модели (LLM). Эта информация может находиться в конфигурационном файле, содержащем системные инструкции, или извлекаться через взаимодействие с LLM.... | Продемонстрированная |
| AML.T0069.000 | Наборы специальных символов Special Character Sets | Злоумышленники могут выявлять разделители и наборы специальных символов, используемые большой языковой моделью. Например, разделители, применяемые в приложениях RAG (генерации, дополненной извлечением), чтобы отличать... | Продемонстрированная |
| AML.T0069.001 | Ключевые слова системных инструкций System Instruction Keywords | Злоумышленники могут выявлять ключевые слова, имеющие особое значение для большой языковой модели (LLM), например имена функций или объектов. Позднее они могут использоваться, чтобы запутать LLM или манипулировать ею,... | Продемонстрированная |
| AML.T0069.002 | Системный промпт System Prompt | Злоумышленники могут выявлять системные инструкции большой языковой модели, заданные разработчиком ИИ-системы, чтобы узнать о возможностях системы и обойти ее защитные ограничения. | Продемонстрированная |
| AML.T0070 | Отравление RAG RAG Poisoning | Злоумышленники могут внедрять вредоносное содержимое в данные, индексируемые системой RAG (генерации, дополненной извлечением), чтобы вредоносное содержимое попадало в будущий диалог через результаты поиска на основе... | Продемонстрированная |
| AML.T0071 | Внедрение ложной записи RAG False RAG Entry Injection | Злоумышленники могут добавлять поддельные записи в базу данных RAG (генерации, дополненной извлечением) жертвы. Для этого в источник данных, который поступает в базу RAG, помещается содержимое, оформленное так, чтобы... | Продемонстрированная |
| AML.T0072 | Реверс-шелл Reverse Shell | Злоумышленники могут использовать реверс-шелл для связи с системой жертвы и управления ею. Обычно пользователь с помощью клиента подключается к удаленной машине, которая ожидает входящие соединения. При использовании... | Реализованная |
| AML.T0073 | Имперсонация Impersonation | Злоумышленники могут выдавать себя за доверенное лицо или организацию, чтобы убедить цель и обманом заставить ее выполнить какое-либо действие в интересах злоумышленников. Например, злоумышленники могут... | Реализованная |
| AML.T0074 | Маскировка Masquerading | Злоумышленники могут пытаться изменять признаки своих артефактов так, чтобы они выглядели легитимными или безвредными для пользователей и/или средств защиты. Маскировка происходит, когда имя или расположение объекта,... | Реализованная |
| AML.T0075 | Выявление облачных сервисов Cloud Service Discovery | После получения доступа злоумышленники могут пытаться перечислить облачные сервисы, запущенные в системе. Эти методы могут различаться в зависимости от модели: platform-as-a-service (PaaS), infrastructure-as-a-service... | Реализованная |
| AML.T0076 | Повреждение ИИ-модели Corrupt AI Model | Злоумышленник может намеренно повредить файл вредоносной ИИ-модели так, чтобы его нельзя было успешно десериализовать, с целью обойти обнаружение сканером моделей. Поврежденная модель при этом все еще может успешно... | Реализованная |
| AML.T0077 | Рендеринг ответа LLM LLM Response Rendering | Злоумышленник может добиться того, чтобы большая языковая модель (LLM) вернула приватную информацию, скрытую от пользователя при рендеринге ответа клиентом пользователя. Затем эта приватная информация эксфильтруется.... | Продемонстрированная |
| AML.T0078 | Компрометация при посещении сайта Drive-by Compromise | Злоумышленники могут получить доступ к ИИ-системе, когда пользователь посещает сайт в ходе обычного веб-серфинга или когда ИИ-агент получает информацию из интернета от имени пользователя. Сайты могут содержать... | Продемонстрированная |
| AML.T0079 | Размещение средств атаки Stage Capabilities | Злоумышленники могут загружать, устанавливать или иным образом настраивать средства, которые могут использоваться при атаке на цель. Для поддержки своих операций злоумышленнику может потребоваться взять средства,... | Реализованная |
| AML.T0080 | Отравление контекста ИИ-агента AI Agent Context Poisoning | Злоумышленники могут пытаться манипулировать контекстом, который использует большая языковая модель (LLM) ИИ-агента, чтобы повлиять на генерируемые ею ответы или выполняемые действия. Это позволяет злоумышленнику... | Продемонстрированная |
| AML.T0080.000 | Память Memory | Злоумышленники могут манипулировать памятью большой языковой модели (LLM), чтобы закрепить изменения в LLM для будущих чат-сессий. Память - распространенная функция LLM, которая позволяет запоминать информацию между... | Продемонстрированная |
| AML.T0080.001 | Цепочка сообщений Thread | Злоумышленники могут внедрять вредоносные инструкции в цепочку сообщений большой языковой модели (LLM), чтобы вызвать изменения поведения, сохраняющиеся до конца этой цепочки. Цепочка сообщений может продолжаться... | Продемонстрированная |
| AML.T0081 | Изменение конфигурации ИИ-агента Modify AI Agent Configuration | Злоумышленники могут изменять конфигурационные файлы ИИ-агентов в системе. Это позволяет вредоносным изменениям сохраняться дольше жизненного цикла одного агента и влияет на всех агентов, использующих общую... | Продемонстрированная |
| AML.T0082 | Сбор учетных данных через RAG RAG Credential Harvesting | Злоумышленники могут пытаться использовать свой доступ к большой языковой модели (LLM) в системе жертвы для сбора учетных данных. Учетные данные могут храниться во внутренних документах, которые могут непреднамеренно... | Продемонстрированная |
| AML.T0083 | Учетные данные из конфигурации ИИ-агента Credentials from AI Agent Configuration | Злоумышленники могут получать из конфигурации ИИ-агента учетные данные других инструментов или сервисов в системе. ИИ-агенты часто используют внешние инструменты или сервисы для выполнения действий, например для... | Продемонстрированная |
| AML.T0084 | Выявление конфигурации ИИ-агента Discover AI Agent Configuration | Злоумышленники могут пытаться выявить сведения о конфигурации ИИ-агентов, присутствующих в системе жертвы. Конфигурации агентов могут включать инструменты или сервисы, к которым у них есть доступ. Злоумышленники могут... | Продемонстрированная |
| AML.T0084.000 | Встроенные знания Embedded Knowledge | Злоумышленники могут пытаться выявить источники данных, к которым имеет доступ конкретный агент. Конфигурация ИИ-агента может раскрывать источники данных или знания. Встроенные знания могут включать чувствительные или... | Продемонстрированная |
| AML.T0084.001 | Определения инструментов Tool Definitions | Злоумышленники могут выявлять инструменты, к которым имеет доступ ИИ-агент. Определив доступные инструменты, злоумышленник может понять, какие действия можно выполнить через агента и к каким дополнительным ресурсам он... | Продемонстрированная |
| AML.T0084.002 | Триггеры активации Activation Triggers | Злоумышленники могут выявлять ключевые слова или другие триггеры, такие как входящие письма, добавление документов, входящие сообщения или другие рабочие процессы, которые активируют агента и могут заставить его... | Продемонстрированная |
| AML.T0084.003 | Цепочки вызовов Call Chains | Злоумышленники могут извлекать цепочки вызовов из конфигураций ИИ-агентов, что может раскрыть потенциальные цели для удаленного выполнения кода (RCE) или других уязвимостей. Уязвимые цепочки вызовов часто связывают... | Продемонстрированная |
| AML.T0085 | Данные из ИИ-сервисов Data from AI Services | Злоумышленники могут использовать свой доступ к ИИ-сервисам организации-жертвы для сбора проприетарной или иной чувствительной информации. По мере того как организации внедряют генеративный ИИ в централизованные... | Продемонстрированная |
| AML.T0085.000 | Базы данных RAG RAG Databases | Злоумышленники могут через промпт заставить ИИ-сервис извлечь данные из базы данных RAG. Это может включать большую часть внутренних документов организации. | Продемонстрированная |
| AML.T0085.001 | Инструменты ИИ-агента AI Agent Tools | Злоумышленники могут через промпт заставить ИИ-сервис вызвать различные инструменты, к которым имеет доступ ИИ-агент. Инструменты могут извлекать данные из разных API или сервисов организации. | Продемонстрированная |
| AML.T0086 | Эксфильтрация через вызов инструмента ИИ-агента Exfiltration via AI Agent Tool Invocation | Инструменты ИИ-агента, способные выполнять операции записи, могут вызываться для эксфильтрации данных злоумышленнику. Чувствительная информация может быть закодирована во входных параметрах инструмента и передана в... | Реализованная |
| AML.T0087 | Сбор сведений о личности жертвы Gather Victim Identity Information | Злоумышленники могут собирать сведения о личности жертвы, которые затем используются при выборе цели и подготовке атаки. Такие сведения могут включать разные данные: персональные данные (например, имена сотрудников,... | Реализованная |
| AML.T0088 | Создание дипфейков Generate Deepfakes | Злоумышленники могут использовать генеративный искусственный интеллект (GenAI) для создания синтетических медиа, то есть изображений, видео, аудио и текста, которые выглядят подлинными. Такие дипфейки могут... | Реализованная |
| AML.T0089 | Выявление процессов Process Discovery | Злоумышленники могут пытаться получить информацию о процессах, запущенных в системе. После получения такая информация может использоваться для понимания распространенного ПО и приложений, связанных с ИИ, которые... | Продемонстрированная |
| AML.T0090 | Дамп учетных данных ОС OS Credential Dumping | Злоумышленники могут извлекать учетные данные из кэшей ОС, памяти приложений или других источников на скомпрометированной системе. Учетные данные часто представлены в виде хэша или открытого текста и могут включать... | Продемонстрированная |
| AML.T0091 | Использование альтернативных средств аутентификации Use Alternate Authentication Material | Злоумышленники могут использовать альтернативные средства аутентификации, такие как хэши паролей, билеты Kerberos и токены доступа приложений, чтобы перемещаться латерально внутри среды и обходить штатные механизмы... | Продемонстрированная |
| AML.T0091.000 | Токен доступа к приложению Application Access Token | Злоумышленники могут использовать украденные токены доступа к приложениям, чтобы обходить штатный процесс аутентификации и получать доступ к ограниченным учетным записям, информации или сервисам на удаленных системах.... | Продемонстрированная |
| AML.T0091.001 | Cookie веб-сессии Web Session Cookie | Злоумышленники могут использовать украденные cookie веб-сессии для аутентификации в ИИ-приложениях и сопутствующих сервисах от имени другого пользователя. Эта техника может обходить некоторые механизмы многофакторной... | Продемонстрированная |
| AML.T0092 | Изменение истории чата пользователя с LLM Manipulate User LLM Chat History | Злоумышленники могут изменять историю чата пользователя с большой языковой моделью (LLM), чтобы скрыть следы своего вредоносного поведения. Они могут скрывать устойчивые изменения, внесенные в поведение LLM, или... | Продемонстрированная |
| AML.T0093 | Внедрение промпта через публичное приложение Prompt Infiltration via Public-Facing Application | Злоумышленник может внедрять вредоносные промпты в систему жертвы через публично доступное приложение, рассчитывая, что в будущем они будут обработаны ИИ и в итоге окажут последующее воздействие. Это может... | Продемонстрированная |
| AML.T0094 | Отложенное выполнение инструкций LLM Delay Execution of LLM Instructions | Злоумышленники могут включать инструкции, которые ИИ-система должна выполнить в ответ на будущее событие, например определенное ключевое слово или следующее взаимодействие, чтобы избежать обнаружения или обойти меры... | Продемонстрированная |
| AML.T0095 | Поиск на открытых сайтах и доменах Search Open Websites/Domains | Злоумышленники могут искать на публичных сайтах и/или доменах сведения о жертвах, которые могут использоваться при выборе цели или подготовке атаки. Информация о жертвах может быть доступна на разных онлайн-площадках,... | Продемонстрированная |
| AML.T0095.000 | Репозитории кода Code Repositories | Злоумышленники могут искать в публичных репозиториях кода информацию о жертве или системе жертвы, которую можно использовать при выборе цели или подготовке атаки. Жертвы могут хранить код или артефакты, связанные с их... | Продемонстрированная |
| AML.T0096 | API ИИ-сервиса AI Service API | Злоумышленники могут использовать API ИИ-сервиса в системе организации-жертвы для обмена данными. Команды, отправляемые злоумышленником системе организации-жертвы, а часто и результаты их выполнения, передаются внутри... | Реализованная |
| AML.T0097 | Обход виртуализации и песочниц Virtualization/Sandbox Evasion | Злоумышленники могут применять различные способы, чтобы распознавать и обходить среды виртуализации и анализа. В том числе они могут изменять поведение вредоносного ПО по результатам проверок на наличие артефактов,... | Реализованная |
| AML.T0098 | Сбор учетных данных через инструменты ИИ-агента AI Agent Tool Credential Harvesting | Злоумышленники могут попытаться использовать доступ к ИИ-агенту в системе жертвы, чтобы извлечь данные через доступные инструменты агента и собрать учетные данные. Инструменты агента могут подключаться к широкому... | Продемонстрированная |
| AML.T0099 | Отравление данных инструмента ИИ-агента AI Agent Tool Data Poisoning | Злоумышленники могут размещать вредоносное содержимое в системе жертвы так, чтобы его мог извлечь инструмент ИИ-агента. Для этого они могут поместить документы в место, данные из которого принимает сервис, для работы... | Возможная |
| AML.T0100 | Кликбейт для ИИ-агента AI Agent Clickbait | Злоумышленники могут создавать обманчивое веб-содержимое, рассчитанное на то, чтобы приманить computer-use-агентов или ИИ-веб-браузеры к выполнению непреднамеренных действий: нажатию кнопок, копированию кода или... | Продемонстрированная |
| AML.T0101 | Уничтожение данных через вызов инструмента ИИ-агента Data Destruction via AI Agent Tool Invocation | Злоумышленники могут вызывать инструмент ИИ-агента, способный выполнять изменяющие операции, чтобы уничтожать данные. Злоумышленники могут уничтожать данные и файлы на отдельных системах или массово в сети, чтобы... | Реализованная |
| AML.T0102 | Генерация вредоносных команд Generate Malicious Commands | Злоумышленники могут использовать большие языковые модели (LLM), чтобы динамически генерировать вредоносные команды из запросов на естественном языке. Динамически сгенерированные команды может быть сложнее обнаружить,... | Реализованная |
| AML.T0103 | Развертывание ИИ-агента Deploy AI Agent | Злоумышленники могут запускать ИИ-агентов в среде жертвы, чтобы те выполняли действия от их имени. ИИ-агенты могут иметь доступ к широкому набору инструментов и источников данных, а также разрешения на доступ к другим... | Реализованная |
| AML.T0104 | Публикация отравленного инструмента ИИ-агента Publish Poisoned AI Agent Tool | Злоумышленники могут создавать и публиковать отравленные инструменты для ИИ-агентов. Такие инструменты могут содержать промпт-инъекцию LLM, способную привести к различным последствиям. Инструменты могут публиковаться... | Реализованная |
| AML.T0105 | Выход на хост Escape to Host | Злоумышленники могут выйти из контейнера или виртуализированной среды, чтобы получить доступ к базовому хосту. Это может дать злоумышленнику доступ к другим контейнеризированным или виртуализированным ресурсам с... | Продемонстрированная |
| AML.T0106 | Эксплуатация уязвимостей для доступа к учетным данным Exploitation for Credential Access | Злоумышленники могут эксплуатировать уязвимости программного обеспечения, чтобы собрать учетные данные. Эксплуатация программной уязвимости происходит, когда злоумышленник использует ошибку программирования в... | Продемонстрированная |
| AML.T0107 | Эксплуатация уязвимостей для обхода защиты Exploitation for Defense Evasion | Злоумышленники могут эксплуатировать уязвимость системы или приложения, чтобы обходить защитные механизмы. Эксплуатация уязвимости происходит, когда злоумышленник использует ошибку программирования в программе,... | Продемонстрированная |
| AML.T0108 | ИИ-агент AI Agent | Злоумышленники могут злоупотреблять ИИ-агентами, присутствующими в системе жертвы, как средством командования и управления. ИИ-агентам часто предоставляют доступ к инструментам, которые могут выполнять команды... | Продемонстрированная |
| AML.T0109 | Подмена компонента после одобрения в цепочке поставок ИИ AI Supply Chain Rug Pull | Злоумышленники могут опубликовать легитимные ИИ-компоненты или ПО, добиться их использования, а затем выпустить обновление с вредоносной версией, что приводит к компрометации цепочки поставок ИИ. При первом... | Реализованная |
| AML.T0110 | Отравление инструмента ИИ-агента AI Agent Tool Poisoning | Злоумышленники могут добиться закрепления, отравляя инструменты, используемые ИИ-агентами: встроенные инструменты или инструменты, доступные агенту через подключения Model Context Protocol (MCP). Это предполагает... | Реализованная |
| AML.T0111 | Накрутка репутации в цепочке поставок ИИ AI Supply Chain Reputation Inflation | Накрутка репутации в цепочке поставок ИИ — это создание или использование правдоподобных сигналов доверия, чтобы повысить видимую легитимность компонентов цепочки поставок ИИ и добиться внедрения вредоносных или... | Продемонстрированная |
| AML.T0112 | Компрометация машины Machine Compromise | Злоумышленники могут скомпрометировать машину, эксплуатируя компоненты с поддержкой ИИ в системе или манипулируя ими. Компрометация системы жертвы позволяет злоумышленнику выполнять произвольный код, красть учетные... | Продемонстрированная |
| AML.T0112.000 | Локальный ИИ-агент Local AI Agent | Злоумышленники могут добиться полной компрометации системы, злоупотребляя ИИ-агентами, которые локально выполняются на хосте, например computer-use-агентами или ИИ-браузерами. Такие агенты предназначены для... | Продемонстрированная |
| AML.T0112.001 | ИИ-артефакты AI Artifacts | Злоумышленники могут добиться полной компрометации системы, внедряя вредоносные ИИ-артефакты, например модели или данные, содержащие встроенное вредоносное ПО или другие вредоносные команды. ИИ-артефакты часто... | Возможная |
| AML.T0113 | Кража cookie веб-сессии Steal Web Session Cookie | Злоумышленники могут красть cookie веб-сессии, используемые веб-приложениями или сервисами для аутентификации пользователей в ИИ-системах, ИИ-сервисах или вспомогательных корпоративных приложениях. Веб-приложения... | Продемонстрированная |
| AML.T0114 | Веб-интерфейс ИИ-сервиса AI Service Web Interface | Злоумышленники могут поддерживать связь со скомпрометированными системами, злоупотребляя веб-интерфейсом ИИ-сервиса как промежуточным C2-каналом. Вместо прямого подключения к инфраструктуре под контролем... | Продемонстрированная |