Кейсы
Кейсы связывают техники ATLAS с наблюдаемыми инцидентами, исследованиями и red team демонстрациями. Каждый кейс включает краткое описание, атрибуты, последовательность процедур и источники.
| ID | Название | Описание | |||
|---|---|---|---|---|---|
| AML.CS0000 | Обход детектора C&C-трафика вредоносного ПО на основе глубокого обучения Evasion of Deep Learning Detector for Malware C&C Traffic | Исследовательская группа Security AI компании Palo Alto Networks протестировала модель глубокого обучения для обнаружения трафика командования и управления (C&C) вредоносного ПО в HTTP-трафике. На основе общедоступной... | Учебный кейс | 2020 | Palo Alto Networks AI Research Team |
| AML.CS0001 | Обход обнаружения DGA-доменов ботнетов Botnet Domain Generation Algorithm (DGA) Detection Evasion | Исследовательская группа Security AI компании Palo Alto Networks смогла с помощью универсальной техники мутации доменных имён обойти основанный на свёрточной нейронной сети детектор ботнетных доменов, сгенерированных... | Учебный кейс | 2020 | Palo Alto Networks AI Research Team |
| AML.CS0002 | Отравление VirusTotal VirusTotal Poisoning | Исследовательская группа McAfee Advanced Threat Research заметила необычный рост числа сообщений об определенном семействе программ-вымогателей. Расследование показало, что за короткий промежуток времени через... | Инцидент | 2020 | Unknown |
| AML.CS0003 | Обход ИИ-детектора вредоносного ПО Cylance Bypassing Cylance's AI Malware Detection | Исследователи Skylight смогли создать универсальную строку обхода, которая при добавлении к вредоносному файлу позволяет избежать обнаружения ИИ-детектором вредоносного ПО Cylance. | Учебный кейс | 2019-09-07 | Skylight Cyber |
| AML.CS0004 | Атака на систему распознавания лиц через подмену видеопотока камеры Camera Hijack Attack on Facial Recognition System | Этот тип атаки с подменой видеопотока камеры позволяет обойти традиционную модель аутентификации по живому изображению лица и получить доступ к привилегированным системам, а также выдавать себя за жертву. Двое человек... | Инцидент | 2020 | Two individuals |
| AML.CS0005 | Атака на сервисы машинного перевода Attack on Machine Translation Services | Сервисы машинного перевода, такие как Google Translate, Bing Translator и Systran Translate, предоставляют публичные пользовательские интерфейсы и API. Исследовательская группа UC Berkeley использовала эти публичные... | Учебный кейс | 2020-04-30 | Berkeley Artificial Intelligence Research |
| AML.CS0006 | Ошибочная конфигурация Clearview AI ClearviewAI Misconfiguration | Clearview AI разрабатывает инструмент распознавания лиц, который ищет совпадения по общедоступным фотографиям. Этот инструмент использовался правоохранительными органами и другими сторонами в расследовательских целях.... | Инцидент | 2020-04 | Researchers at spiderSilk |
| AML.CS0007 | Репликация модели GPT-2 GPT-2 Model Replication | OpenAI создала GPT-2, языковую модель, способную генерировать текстовые образцы высокого качества. Из-за опасений, что GPT-2 может использоваться в злонамеренных целях, например для выдачи себя за других людей,... | Учебный кейс | 2019-08-22 | Researchers at Brown University |
| AML.CS0008 | Обход ProofPoint ProofPoint Evasion | Proof Pudding (CVE-2019-20634) — это репозиторий кода, описывающий, как исследователи ML обошли систему защиты электронной почты ProofPoint: сначала они создали модель-копию ML-модели защиты электронной почты, а затем... | Учебный кейс | 2019-09-09 | Researchers at Silent Break Security |
| AML.CS0009 | Отравление Tay Tay Poisoning | Microsoft создала Tay, чат-бота для Twitter, предназначенного для общения с пользователями и их развлечения. В то время как предыдущие чат-боты использовали заранее запрограммированные сценарии для ответов на запросы,... | Инцидент | 2016-03-23 | 4chan Users |
| AML.CS0010 | Нарушение работы сервиса Microsoft Azure Microsoft Azure Service Disruption | «Красная команда» Microsoft AI провела учения на внутреннем сервисе Azure с целью нарушить его работу. Эта операция сочетала традиционные корпоративные техники ATT&CK, такие как поиск действующей учетной записи и... | Учебный кейс | 2020 | Microsoft AI Red Team |
| AML.CS0011 | Обход ИИ на периферии Microsoft Microsoft Edge AI Evasion | «Красная команда» Azure провела учения на новом продукте Microsoft, предназначенном для запуска ИИ-нагрузок на периферии. В ходе учений предполагалось использовать автоматизированную систему, которая непрерывно... | Учебный кейс | 2020-02 | Azure Red Team |
| AML.CS0012 | Обход системы идентификации лиц с помощью физических контрмер Face Identification System Evasion via Physical Countermeasures | «Красная команда» MITRE AI продемонстрировала атаку уклонения в физическом домене на коммерческий сервис идентификации лиц с целью вызвать целевую ошибочную классификацию. Эта операция сочетала традиционные техники... | Учебный кейс | 2020-01-01 | MITRE AI Red Team |
| AML.CS0013 | Бэкдор-атака на модели глубокого обучения в мобильных приложениях Backdoor Attack on Deep Learning Models in Mobile Apps | Модели глубокого обучения все чаще используются в мобильных приложениях как критически важные компоненты. Исследователи из Microsoft Research показали, что многие модели глубокого обучения, развернутые в мобильных... | Учебный кейс | 2021-01-18 | Yuanchun Li, Jiayi Hua, Haoyu Wang, Chunyang Chen, Yunxin Liu |
| AML.CS0014 | Сбивание с толку антивирусных нейронных сетей Confusing Antimalware Neural Networks | Облачные хранилища и вычисления стали популярными платформами для развертывания ML-детекторов вредоносного ПО. В таких случаях признаки для моделей формируются на системах пользователей, а затем отправляются на... | Учебный кейс | 2021-06-23 | Kaspersky ML Research Team |
| AML.CS0015 | Компрометация цепочки зависимостей PyTorch Compromised PyTorch Dependency Chain | Пакеты Linux для предварительной версии PyTorch под названием Pytorch-nightly были скомпрометированы с 25 по 30 декабря 2022 года из-за вредоносного двоичного файла, загруженного в репозиторий кода Python Package... | Инцидент | 2022-12-25 | Unknown |
| AML.CS0016 | Выполнение кода в MathGPT через промпт-инъекцию Achieving Code Execution in MathGPT via Prompt Injection | Общедоступное приложение Streamlit MathGPT использует GPT-3, большую языковую модель (LLM), для ответов на пользовательские математические вопросы. Недавние исследования и эксперименты показали, что LLM, такие как... | Учебный кейс | 2023-01-28 | Ludwig-Ferdinand Stumpp |
| AML.CS0017 | Обход проверки личности ID.me Bypassing ID.me Identity Verification | С октября 2020 года по декабрь 2021 года один человек подал в штате Калифорния не менее 180 ложных заявок на пособие по безработице, обойдя автоматизированную систему проверки личности ID.me. Десятки мошеннических... | Инцидент | 2020-10 | One individual |
| AML.CS0018 | Выполнение произвольного кода через Google Colab Arbitrary Code Execution with Google Colab | Google Colab — это сервис Jupyter Notebook, выполняющий код на виртуальных машинах. Jupyter Notebook часто используется для исследований и экспериментов в области ML и data science и содержит исполняемые фрагменты... | Учебный кейс | 2022-07 | Tony Piazza |
| AML.CS0019 | PoisonGPT | Исследователи из Mithril Security продемонстрировали, как отравить предобученную большую языковую модель (LLM) с открытым исходным кодом, чтобы она возвращала ложный факт. Затем они успешно загрузили отравленную... | Учебный кейс | 2023-07 | Mithril Security Researchers |
| AML.CS0020 | Угрозы косвенной промпт-инъекции: Bing Chat как похититель данных Indirect Prompt Injection Threats: Bing Chat Data Pirate | При взаимодействии с новым LLM-чат-ботом Microsoft Bing Chat пользователь может разрешить Bing Chat просматривать открытые в данный момент сайты и получать к ним доступ на протяжении всей чат-сессии. Исследователи... | Учебный кейс | 2023 | Kai Greshake, Saarland University |
| AML.CS0021 | Эксфильтрация разговоров ChatGPT ChatGPT Conversation Exfiltration | Embrace the Red продемонстрировали, что разговоры пользователей ChatGPT могут быть эксфильтрованы посредством косвенной промпт-инъекции. Для выполнения атаки злоумышленник размещает вредоносный промпт на общедоступном... | Учебный кейс | 2023-05 | Embrace The Red |
| AML.CS0022 | Галлюцинация пакетов ChatGPT ChatGPT Package Hallucination | Исследователи установили, что большие языковые модели, такие как ChatGPT, могут галлюцинировать названия фиктивных программных пакетов, которые не опубликованы в репозитории пакетов. Злоумышленник может опубликовать... | Учебный кейс | 2024-06 | Vulcan Cyber, Lasso Security |
| AML.CS0023 | ShadowRay: захват кластеров Ray, доступных из интернета ShadowRay: Hijacking Exposed Ray Clusters | Ray — это Python-фреймворк с открытым исходным кодом для масштабирования продакшен-процессов ИИ. Job API Ray по своей архитектуре допускает произвольное удаленное выполнение. Однако он не предоставляет аутентификацию,... | Инцидент | 2023-09-05 | Unknown |
| AML.CS0024 | Червь Morris II: атака на основе RAG Morris II Worm: RAG-Based Attack | Исследователи разработали Morris II, zero-click-червя, предназначенного для атак на экосистемы генеративного ИИ (GenAI) и распространения между связанными GenAI-системами. Червь использует состязательный... | Учебный кейс | 2024-03-05 | Stav Cohen, Ron Bitton, Ben Nassi |
| AML.CS0025 | Отравление крупномасштабных веб-датасетов: атака split-view Web-Scale Data Poisoning: Split-View Attack | Многие современные крупномасштабные веб-датасеты распространяются как список URL, указывающих на отдельные элементы данных. Исследователи показывают, что многие такие датасеты уязвимы к атаке отравления типа... | Учебный кейс | 2024-06-06 | Researchers from Google Deepmind, ETH Zurich, NVIDIA, Robust Intelligence, and Google |
| AML.CS0026 | Перехват финансовой транзакции с использованием M365 Copilot в роли инсайдера Financial Transaction Hijacking with M365 Copilot as an Insider | Исследователи Zenity в августе 2024 года провели учение красной команды, в ходе которого им удалось манипулировать Microsoft 365 Copilot.[[twitter]] В атаке использовался тот факт, что Copilot загружает полученные... | Учебный кейс | 2024-08-08 | Zenity |
| AML.CS0027 | Путаница с организациями на Hugging Face Organization Confusion on Hugging Face | Исследователь безопасности threlfallhax создал на Hugging Face, публичном репозитории моделей, учетные записи организаций, имитирующие реальные организации. Эти поддельные учетные записи организаций Hugging Face... | Учебный кейс | 2023-08-23 | threlfall_hax |
| AML.CS0028 | Подмена ИИ-модели через атаку на цепочку поставок AI Model Tampering via Supply Chain Attack | Исследователи Trend Micro, Inc. использовали порталы индексации сервисов и инструменты веб-поиска, чтобы выявить более 8 000 ошибочно настроенных приватных реестров контейнеров, доступных из интернета. Примерно 70%... | Учебный кейс | 2023-09-26 | Trend Micro Nebula Cloud Research Team |
| AML.CS0029 | Эксфильтрация разговоров Google Bard Google Bard Conversation Exfiltration | Embrace the Red продемонстрировали, что разговоры пользователей Bard могут быть эксфильтрованы через косвенную промпт-инъекцию. Для выполнения атаки субъект угрозы делится с целевым пользователем Google Doc,... | Учебный кейс | 2023-11-23 | Embrace the Red |
| AML.CS0030 | LLM-джекинг LLM Jacking | Sysdig Threat Research Team обнаружила, что злоумышленники использовали украденные учетные данные для получения доступа к большим языковым моделям (LLM), размещенным в облаке. Субъекты угрозы скрытно собирали... | Инцидент | 2024-05-06 | Unknown |
| AML.CS0031 | Вредоносные модели на Hugging Face Malicious Models on Hugging Face | Исследователи ReversingLabs выявили вредоносные модели со встроенным вредоносным ПО, размещенные в репозитории моделей Hugging Face. При загрузке эти модели выполняли reverse shell, что давало субъекту угрозы... | Инцидент | 2025 | Unknown |
| AML.CS0032 | Попытка обхода ML-системы обнаружения фишинговых веб-страниц Attempted Evasion of ML Phishing Webpage Detection System | Злоумышленники создают фишинговые сайты, которые визуально похожи на легитимные. Эти сайты предназначены для того, чтобы обманом заставить пользователей ввести учетные данные, которые затем отправляются... | Инцидент | 2022-12 | Unknown |
| AML.CS0033 | Обход мобильной KYC-верификации с помощью дипфейк-изображения в реальном времени Live Deepfake Image Injection to Evade Mobile KYC Verification | Сервисы лицевой биометрической аутентификации часто используются мобильными приложениями для онбординга пользователей, аутентификации и проверки личности в рамках требований KYC. «Красная команда» iProov... | Учебный кейс | 2024 | iProov Red Team |
| AML.CS0034 | ProKYC: дипфейк-инструмент для атак с мошенническим созданием аккаунтов ProKYC: Deepfake Tool for Account Fraud Attacks | Исследователи безопасности Cato CTRL выявили ProKYC — дипфейк-инструмент, который продается киберпреступникам как способ обхода проверки Know Your Customer (KYC) в приложениях финансовых сервисов, например на... | Инцидент | 2024-10-09 | ProKYC, cybercriminal group |
| AML.CS0035 | Эксфильтрация данных из Slack AI через косвенную промпт-инъекцию Data Exfiltration from Slack AI via Indirect Prompt Injection | PromptArmor продемонстрировала, что конфиденциальные данные можно эксфильтровать из Slack AI через косвенные промпт-инъекции. Атака опиралась на то, что Slack AI загружал вредоносный промпт из публикации в публичном... | Учебный кейс | 2024-08-20 | PromptArmor |
| AML.CS0036 | AIKatz: атака на десктопные LLM-приложения AIKatz: Attacking LLM Desktop Applications | Исследователи Lumia показали, что из памяти десктопных LLM-приложений можно извлечь токены аутентификации. Затем злоумышленник может использовать эти токены, чтобы выдавать себя за жертву при взаимодействии с... | Учебный кейс | 2025 | Lumia Security |
| AML.CS0037 | Эксфильтрация данных через инструменты ИИ-агента в Copilot Studio Data Exfiltration via Agent Tools in Copilot Studio | Исследователи Zenity продемонстрировали, как данные организации могут быть эксфильтрованы с помощью промпт-инъекций, нацеленных на ИИ-агента клиентской поддержки. Целевая система — ИИ-агент клиентской поддержки,... | Учебный кейс | 2025-06 | Zenity |
| AML.CS0038 | Внедрение инструкций для отложенного автоматического вызова инструмента ИИ-агента Planting Instructions for Delayed Automatic AI Agent Tool Invocation | Embrace the Red продемонстрировали, что Google Gemini подвержен автоматическому вызову инструментов при переносе выполнения на следующий ход диалога. Это обходит защитный контроль, который ограничивает Gemini в вызове... | Учебный кейс | 2024-02 | Embrace the Red |
| AML.CS0039 | Living Off AI: промпт-инъекция через Jira Service Management Living Off AI: Prompt Injection via Jira Service Management | Исследователи Cato Networks продемонстрировали, как злоумышленники могут эксплуатировать ИИ-системы, встроенные в корпоративные рабочие процессы, для выполнения вредоносных действий с повышенными привилегиями. Для... | Учебный кейс | 2025-06-19 | Cato CTRL |
| AML.CS0040 | Взлом памяти ChatGPT с помощью промпт-инъекции Hacking ChatGPT's Memories with Prompt Injection | Embrace the Red продемонстрировали, что функцией памяти ChatGPT можно манипулировать с помощью промпт-инъекций. Для проведения атаки исследователь скрыл промпт-инъекцию в общем Google Doc. Когда пользователь ссылается... | Учебный кейс | 2024-02 | Embrace the Red |
| AML.CS0041 | Бэкдор в файле правил: атака на цепочку поставки ИИ-ассистентов для программирования Rules File Backdoor: Supply Chain Attack on AI Coding Assistants | Исследователи Pillar Security показали, как злоумышленники могут скомпрометировать код, сгенерированный ИИ, внедрив вредоносные инструкции в файлы правил, которые используются для настройки ИИ-ассистентов для... | Учебный кейс | 2025-03-18 | Pillar Security |
| AML.CS0042 | SesameOp: новый бэкдор использует OpenAI Assistants API как C2-канал SesameOp: Novel backdoor uses OpenAI Assistants API for command and control | Команда Microsoft Incident Response - Detection and Response Team (DART) расследовала компрометацию системы, в которой злоумышленник использовал SesameOp, бэкдор-имплант, злоупотребляющий OpenAI Assistants API для... | Инцидент | 2025-07 | Unknown Threat Actor |
| AML.CS0043 | Прототип вредоносного ПО со встроенной промпт-инъекцией Malware Prototype with Embedded Prompt Injection | Check Point Research обнаружили в реальной среде прототип образца вредоносного ПО, содержавший промпт-инъекцию, которая, по-видимому, была предназначена для манипулирования LLM-детекторами вредоносного ПО и/или... | Инцидент | 2025-06-25 | Unknown Threat Actor |
| AML.CS0044 | LAMEHUG: вредоносное ПО, использующее команды, динамически генерируемые ИИ LAMEHUG: Malware Leveraging Dynamic AI-Generated Commands | В июле 2025 года украинские органы сообщили о появлении LAMEHUG, нового вредоносного ПО на базе ИИ, которое они атрибутировали APT28, актору угроз, по их оценке связанному с российским государством и также... | Инцидент | 2025-06 | APT28 |
| AML.CS0045 | Эксфильтрация данных через MCP-сервер, используемый Cursor Data Exfiltration via an MCP Server used by Cursor | Backslash Security Research Team продемонстрировала, что инструмент Model Context Protocol (MCP) может использоваться в качестве вектора косвенной промпт-инъекции против Cursor и потенциально приводить к выполнению... | Учебный кейс | 2025-06-24 | Backslash Security Research Team |
| AML.CS0046 | Уничтожение данных через косвенную промпт-инъекцию, нацеленную на Claude Computer Use Data Destruction via Indirect Prompt Injection Targeting Claude Computer-Use | Исследователи безопасности HiddenLayer продемонстрировали, что косвенная промпт-инъекция, нацеленная на Claude Computer Use AI, может привести к выполнению команд оболочки в системе жертвы и уничтожению... | Учебный кейс | 2024-10-24 | HiddenLayer |
| AML.CS0047 | Код для развертывания деструктивного ИИ-агента обнаружен в расширении Amazon Q для VS Code Code to Deploy Destructive AI Agent Discovered in Amazon Q VS Code Extension | 13 июля 2025 года злоумышленник с именем пользователя GitHub lkmanka58 использовал GitHub-токен с некорректно заданными правами доступа, чтобы сделать коммит с вредоносным кодом в репозиторий расширения Amazon Q... | Инцидент | 2025-07-13 | lkmanka58 (GitHub user) |
| AML.CS0048 | Публично доступные интерфейсы управления ClawdBot позволили получить учётные данные и выполнить команды Exposed ClawdBot Control Interfaces Leads to Credential Access and Execution | Исследователь безопасности обнаружил сотни доступных из интернета интерфейсов управления ClawdBot. ClawdBot (ныне OpenClaw) описывается как «персональный ИИ-ассистент, который вы запускаете на собственных устройствах.... | Учебный кейс | 2026-01-25 | Jamieson O'Reilly |
| AML.CS0049 | Компрометация цепочки поставки через отравленный навык ClawdBot Supply Chain Compromise via Poisoned ClawdBot Skill | Исследователь безопасности продемонстрировал proof-of-concept атаки на цепочку поставки с использованием отравленного навыка ClawdBot, опубликованного в ClawdHub, реестре навыков для агентов. Отравленный навык... | Учебный кейс | 2026-01-26 | Jamieson O'Reilly |
| AML.CS0050 | Удаленное выполнение кода (RCE) в OpenClaw в один клик OpenClaw 1-Click Remote Code Execution | Исследователь безопасности продемонстрировал уязвимость удаленного выполнения кода (RCE) в один клик в ИИ-агенте OpenClaw через вредоносную ссылку, содержащую JavaScript-скрипт, выполнение которого занимает... | Учебный кейс | 2026-02-01 | DepthFirst |
| AML.CS0051 | Использование OpenClaw для командования и управления через промпт-инъекцию OpenClaw Command & Control via Prompt Injection | Исследователи HiddenLayer продемонстрировали, как веб-страница может встроить косвенную промпт-инъекцию, из-за которой OpenClaw скрытно выполняет вредоносный скрипт. После выполнения скрипт добавляет сохраняющиеся... | Учебный кейс | 2026-02-03 | HiddenLayer |
| AML.CS0052 | LLMSmith: уязвимости RCE в приложениях с интеграцией LLM LLMSmith: RCE Vulnerabilities in LLM-Integrated Applications | Исследователи выявили 20 уязвимостей удаленного выполнения кода (RCE) в 11 различных LLM-фреймворках. Они обнаружили приложения, развернутые в публичном интернете и построенные на этих LLM-фреймворках, а также... | Учебный кейс | 2025-02-27 | Researchers at University of Chinese Academy of Sciences, Shandong University, and University of New South Wales |
| AML.CS0053 | Эксфильтрация писем через отравленный MCP-сервер Postmark Poisoned Postmark MCP Server Email Exfiltration | Злоумышленник успешно эксфильтровал письма пользователей MCP-сервера Postmark с помощью атаки на цепочку поставок. Postmark — сервис доставки электронной почты, который позволяет организациям отправлять маркетинговые... | Инцидент | 2025-09 | Unknown Bad Actor |
| AML.CS0054 | Эксфильтрация данных через отравленный удалённый MCP-инструмент Data Exfiltration via Remote Poisoned MCP Tool | Исследователи Invariant Labs продемонстрировали, что ИИ-агенты, настроенные для работы с удалёнными инструментами Model Context Protocol (MCP), могут быть уязвимы к атакам отравления модели через отравленные... | Учебный кейс | 2025-04-01 | Invariant Labs |
| AML.CS0055 | AI ClickFix: захват управления computer-use-агентами с помощью ClickFix AI ClickFix: Hijacking Computer-Use Agents Using ClickFix | Embrace the Red продемонстрировали, что computer-use-агенты ИИ уязвимы к атакам социальной инженерии и их можно заставить выполнить произвольный код на компьютере жертвы. Эта атака представляет собой вариант... | Учебный кейс | 2025-05-24 | Embrace the Red |
| AML.CS0056 | Кампании по дистилляции моделей, нацеленные на Anthropic Claude Model Distillation Campaigns Targeting Anthropic Claude | Anthropic выявила кампании по извлечению возможностей Claude, проводившиеся тремя китайскими ИИ-лабораториями: DeepSeek, Moonshot и MiniMax. В совокупности в этих кампаниях использовалось примерно 24 000 учетных... | Инцидент | 2026-02-23 | DeepSeek, Moonshot AI, MiniMax |
| AML.CS0057 | Storm-2139: обход гардрейлов Azure OpenAI Storm-2139 Azure OpenAI Guardrail Bypass | Storm-2139 создала собственный инструментарий для джейлбрейка, чтобы обходить гардрейлы Azure OpenAI Services, что позволяло пользователям генерировать синтетический контент, способный причинить вред. Microsoft... | Инцидент | 2024-12 | Storm-2139 |
| AML.CS0058 | Извлечение ИИ-моделей из Google Photos Google Photos AI Model Extraction | Исследователи Skyld проанализировали Android-приложение Google Photos и восстановили модели TensorFlow Lite, применяемые в ИИ-функциях редактирования фотографий и анализа изображений. Исследователи обнаружили модели,... | Учебный кейс | 2025-03 | Skyld |
| AML.CS0059 | EchoLeak: промпт-инъекция нулевого клика против M365 Copilot для эксфильтрации данных EchoLeak: Zero-Click Prompt Injection Targeting M365 Copilot for Data Exfiltration | Исследователи Aim Security обнаружили EchoLeak — уязвимость нулевого клика (zero-click) в Microsoft 365 Copilot, которая могла позволить злоумышленнику эксфильтровать конфиденциальные корпоративные данные без... | Учебный кейс | 2025-05 | Aim Labs |
| AML.CS0060 | Межсайтовый скриптинг (XSS) через манипуляцию промптом в ИИ-чат-боте Lenovo Cross-Site Scripting via Prompt Manipulation in Lenovo AI Chatbot | Исследователи Cybernews показали, что ИИ-чат-бот Lenovo «Lena» был уязвим к промпт-инъекции, из-за которой генерировался вредоносный HTML-код. Он сохранялся в истории чата и при отображении в браузере сотрудника... | Учебный кейс | 2025-08-18 | Cybernews Research Team |
| AML.CS0061 | AI in the Middle: веб-сервисы ИИ как ретрансляторы C2 AI in the Middle: Web-Based AI Services as C2 Relays | Исследователи Check Point Research продемонстрировали атаку "AI in the Middle", при которой вредоносное ПО может использовать веб-ассистенты ИИ с анонимным или неаутентифицированным веб-просмотром и возможностями... | Учебный кейс | 2026-02-17 | Check Point Research |
| AML.CS0062 | RCE-уязвимость в Semantic Kernel Search Plugin RCE Vulnerability in Semantic Kernel Search Plugin | Команда Microsoft Defender Security Research Team обнаружила уязвимый сценарий в Microsoft Semantic Kernel, при котором одна промпт-инъекция могла привести к удаленному выполнению кода (RCE) на уровне хоста. Semantic... | Учебный кейс | 2026-05-07 | Microsoft Defender Security Research Team |
| AML.CS0063 | Атаки на Gemini с помощью промптов в приглашениях Google Calendar Prompt-Based Attacks Against Gemini via Calendar Invitations | Исследователи SafeBreach продемонстрировали, как подконтрольные злоумышленнику инструкции, встроенные в содержимое сервисов для продуктивной работы, включая приглашения Google Calendar, электронные письма и файлы с... | Учебный кейс | 2025-08-06 | SafeBreach Research Team |
| AML.CS0064 | Отравленные шаблоны GGUF: атака на цепочку поставок во время инференса Poisoned GGUF Templates: Inference-Time Supply Chain Attack | Исследователи из Pillar Security и Fujitsu Research of Europe продемонстрировали бэкдор в цепочке поставок, срабатывающий во время инференса: отравленные шаблоны чата изменяют поведение модели и агента без изменения... | Учебный кейс | 2025-06 | Pillar Security, Fujitsu Research of Europe |
| AML.CS0065 | Атака на цепочку поставок через повторное использование пространства имён модели Model Namespace Reuse Supply Chain Attack | Исследователи Unit 42 продемонстрировали атаку на цепочку поставок ИИ, при которой злоумышленник повторно регистрирует удалённое пространство имён автора на Hugging Face и публикует вредоносную модель под тем же... | Учебный кейс | 2025-09-03 | Unit 42 Researchers |
| AML.CS0066 | ZombieAgent: атака на ChatGPT с эксфильтрацией данных ZombieAgent: Data Exfiltration Attack on ChatGPT | ZombieAgent — proof-of-concept-атака с косвенной промпт-инъекцией, которую исследователи Radware продемонстрировали применительно к функциям Deep Research и Connector в ChatGPT от OpenAI. Продемонстрированные атаки... | Учебный кейс | 2025-09-25 | Radware Security Researchers |
| AML.CS0067 | Раскрытие секретов через Claude Code GitHub Action Claude Code GitHub Action Secret Exposure | Microsoft Defender Security Research Team продемонстрировала, что Claude Code GitHub Action от Anthropic может раскрывать секреты рабочих процессов CI/CD при обработке содержимого GitHub с промпт-инъекциями —... | Учебный кейс | 2026-06-05 | Microsoft Defender Security Research Team |