Эксфильтрация киберсредствами

Оригинал: Exfiltration via Cyber Means

Злоумышленники могут эксфильтровать ИИ-артефакты или другую информацию, важную для их целей, традиционными киберсредствами.

Подробнее см. тактику ATT&CK Exfiltration.

Тактики

AML.TA0010Эксфильтрация

Меры защиты

AML.M0005Контроль доступа к ИИ-моделям и хранимым данным

Контроль доступа может предотвращать эксфильтрацию.

Примеры процедур из кейсов

AML.CS0010Нарушение работы сервиса Microsoft AzureАктор: Microsoft AI Red Team / Тактика: AML.TA0010 Эксфильтрация

Команда эксфильтровала модель и данные обычными киберсредствами.

AML.CS0015Компрометация цепочки зависимостей PyTorchАктор: Unknown / Тактика: AML.TA0010 Эксфильтрация

Вся собранная информация, включая содержимое файлов, отправлялась через зашифрованные DNS-запросы на домен `*[dot]h4ck[dot]cfd` с использованием DNS-сервера `wheezy[dot]io`.

AML.CS0018Выполнение произвольного кода через Google ColabАктор: Tony Piazza / Тактика: AML.TA0010 Эксфильтрация

Получив доступ к Google Drive, злоумышленник может открыть сервер для эксфильтрации частных данных или артефактов ML-моделей. В примере из исходной статьи показаны загрузка, установка и использование `ngrok`, серверного приложения, чтобы открыть доступный злоумышленнику URL к Google Drive жертвы и всем его файлам.

AML.CS0023ShadowRayАктор: Ray / Тактика: AML.TA0010 Эксфильтрация

ИИ-артефакты, учетные данные и другая ценная информация могут быть эксфильтрованы киберсредствами. Исследователи обнаружили признаки reverse shell на уязвимых кластерах; такие оболочки могут использоваться для закрепления, продолжения выполнения произвольного кода и эксфильтрации данных.

AML.CS0027Путаница с организациями на Hugging FaceАктор: threlfall_hax / Тактика: AML.TA0010 Эксфильтрация

Обнаруженные учетные данные могли быть эксфильтрованы через имплант Sliver.

AML.CS0043Прототип вредоносного ПО со встроенной промпт-инъекциейАктор: Unknown Threat Actor / Тактика: AML.TA0010 Эксфильтрация

Вредоносное ПО Skynet настраивает Tor-прокси для эксфильтрации собранных файлов. Примечание: собранные файлы только выводились в stdout и фактически не были успешно эксфильтрованы.

AML.CS0044LAMEHUG: вредоносное ПО, использующее динамические команды, сгенерированные ИИАктор: APT28 / Тактика: AML.TA0010 Эксфильтрация

LAMEHUG эксфильтровал собранные данные на серверы под контролем злоумышленников через SFTP или HTTP POST-запросы.

AML.CS0048Публично доступные интерфейсы управления ClawdBot позволили получить учетные данные и выполнить командыАктор: Jamieson O'Reilly / Тактика: AML.TA0010 Эксфильтрация

Исследователь мог бы использовать обнаруженные токены приложений, чтобы эксфильтрировать полные истории приватных переписок, включая переданные файлы, из любых подключенных мессенджеров: Telegram, Slack, Discord, Signal, WhatsApp и других.

AML.CS0058Извлечение ИИ-моделей из Google PhotosАктор: Skyld / Тактика: AML.TA0010 Эксфильтрация

Исследователи использовали статический анализ и инструментацию Frida для восстановления файлов моделей. Для зашифрованных моделей они перехватывали расшифрованные файлы TFLite во время выполнения, когда Google Photos загружал их для выполнения.

AML.CS0059EchoLeak: промпт-инъекция нулевого клика против M365 Copilot для эксфильтрации данныхАктор: Aim Labs / Тактика: AML.TA0010 Эксфильтрация

Чтобы обойти ограничения CSP, исследователи направили запрос к отображенному изображению через разрешенный путь предпросмотра или прокси Microsoft Teams, который загружал контролируемый злоумышленником URL с закодированным секретом.