Программные инструменты

Оригинал: Software Tools

Злоумышленники могут искать и получать программные инструменты для поддержки своих операций.

ПО, разработанное для легитимного использования, может быть переиспользовано злоумышленником во вредоносных целях.

Злоумышленник может изменять или адаптировать программные инструменты для достижения своих целей.

Программные инструменты, используемые для поддержки атак на ИИ-системы, не обязательно сами основаны на ИИ.

Тактики

AML.TA0003Подготовка ресурсов

Родительская техника

AML.T0016Получение средств для атаки

Другие подтехники родителя

AML.T0016.000Готовые реализации состязательных атак на ИИПодтехника AML.T0016.002Генеративный ИИПодтехника

Примеры процедур из кейсов

AML.CS0004Атака на систему распознавания лиц через подмену видеопотока камерыАктор: Two individuals / Тактика: AML.TA0003 Подготовка ресурсов

Злоумышленники получили кастомизированные Android ROM и приложение виртуальной камеры.

AML.CS0030LLM-джекингАктор: Unknown / Тактика: AML.TA0003 Подготовка ресурсов

Злоумышленники получили [keychecker](https://github.com/cunnymessiah/keychecker) — инструмент массовой проверки ключей для различных ИИ-сервисов, который может проверять действительность ключа и получать отдельные атрибуты учетной записи, например баланс аккаунта и доступные модели.

AML.CS0030LLM-джекингАктор: Unknown / Тактика: AML.TA0003 Подготовка ресурсов

Затем злоумышленники использовали [OAI Reverse Proxy](https://gitgud.io/khanon/oai-reverse-proxy), чтобы развернуть обратный прокси-сервис для украденных LLM-ресурсов. Этот прокси-сервис можно было использовать для продажи доступа киберпреступникам, которые могли эксплуатировать LLM в вредоносных целях.

AML.CS0033Обход мобильной KYC-верификации с помощью дипфейк-изображения в реальном времениАктор: iProov Red Team / Тактика: AML.TA0003 Подготовка ресурсов

Исследователи получили [Open Broadcaster Software (OBS)](https://obsproject.com), которое может транслировать видеопоток по сети.