Ущерб пользователям
Оригинал: User Harm
Ущерб пользователям может включать разные виды вреда, в том числе финансовый и репутационный, которые направлены на отдельных жертв атаки или ощущаются ими, а не проявляются на уровне организации.
Тактики
Родительская техника
Другие подтехники родителя
Примеры процедур из кейсов
Получив персональные данные пользователя, злоумышленник мог использовать их для дальнейших атак, включая кражу личности или мошенничество.
AML.CS0021Эксфильтрация разговоров ChatGPTВ результате нарушается конфиденциальность пользователя, и он может стать целью дальнейших атак.
AML.CS0022Галлюцинация пакетов ChatGPTЭто может привести к различному ущербу для конечного пользователя или организации.
AML.CS0024Червь Morris II: атака на основе RAGПерсональные данные пользователей GenAI-почтового ассистента могут утечь к злоумышленникам.
AML.CS0029Эксфильтрация разговоров Google BardРазговор пользователя эксфильтруется, что нарушает его конфиденциальность и может позволить проводить дальнейшие целевые атаки.
AML.CS0032Попытка обхода ML-системы обнаружения фишинговых веб-страницКонечный пользователь может столкнуться с разными видами ущерба, включая финансовый ущерб и нарушение конфиденциальности, в зависимости от того, какие учетные данные украл злоумышленник.
AML.CS0036AIKatz: атака на десктопные LLM-приложенияЗлоумышленник мог получить доступ ко всей активности жертвы при работе с LLM, включая прошлые и текущие чаты, а также любые загруженные файлы или содержимое.
AML.CS0040Взлом памяти ChatGPT с помощью промпт-инъекцииИз-за отравленных воспоминаний ChatGPT жертва может получать ложную информацию, быть введена в заблуждение или подвергаться влиянию.
AML.CS0041Бэкдор в файле правил: атака на цепочку поставки ИИ-ассистентов для программированияРазработчики-жертвы неосознанно использовали скомпрометированного ИИ-ассистента для программирования, который генерировал код со скрытыми вредоносными элементами, включая бэкдоры, код для эксфильтрации данных, уязвимые конструкции или вредоносные скрипты. Такой код мог попасть в продакшен-приложение и повлиять на пользователей ПО.
AML.CS0048Публично доступные интерфейсы управления ClawdBot позволили получить учетные данные и выполнить командыИсследователь мог бы использовать обнаруженные токены приложений для дальнейшего вреда пользователю, включая имперсонацию через отправку сообщений от имени пользователя в любом из подключенных мессенджеров.
AML.CS0054Эксфильтрация данных через удаленный отравленный MCP-инструментПриватные данные пользователя были раскрыты удаленному MCP-серверу.
AML.CS0056Кампании по дистилляции моделей, нацеленные на Anthropic ClaudeУ дистиллированных моделей нет защитных ограничений Claude, из-за чего пользователи могут столкнуться с вредоносными ответами и поведением модели.