Поиск в репозиториях приложений

Оригинал: Search Application Repositories

Злоумышленники могут искать в открытых репозиториях приложений при выборе целей. Примеры таких репозиториев включают Google Play, iOS App Store, macOS App Store и Microsoft Store.

Злоумышленники могут составлять поисковые запросы для поиска приложений, содержащих компоненты с поддержкой ИИ. Часто следующим шагом становится получение публичных ИИ-артефактов.

Тактики

AML.TA0002Разведка

Меры защиты

AML.M0000Ограничение публичного раскрытия информации

Ограничьте публикацию чувствительной информации в метаданных развернутых систем и публично доступных приложений.

Примеры процедур из кейсов

AML.CS0013Бэкдор-атака на модели глубокого обучения в мобильных приложенияхАктор: Yuanchun Li, Jiayi Hua, Haoyu Wang, Chunyang Chen, Yunxin Liu / Тактика: AML.TA0002 Разведка

Чтобы составить список потенциальных целевых моделей, исследователи искали в Google Play приложения, которые могли содержать встроенные модели глубокого обучения, по ключевым словам, связанным с глубоким обучением.

AML.CS0028Подмена ИИ-модели через атаку на цепочку поставокАктор: Trend Micro Nebula Cloud Research Team / Тактика: AML.TA0002 Разведка

Исследователи Trend Micro использовали сервисы индексирования и инструменты веб-поиска, чтобы выявить более 8 000 приватных реестров контейнеров, доступных из интернета. Примерно 70% реестров имели чрезмерно широкие права доступа, разрешавшие запись. Среди приватных реестров контейнеров были как самостоятельно размещенные реестры, так и реестры, развернутые у поставщиков облачных услуг (CSP). Реестры оказались доступны из-за сочетания следующих факторов:

ошибка конфигурации, открывшая публичный доступ к приватному реестру;
отсутствие корректных механизмов аутентификации и авторизации;
недостаточная сегментация сети и слабые средства контроля доступа.

AML.CS0052LLMSmith: уязвимости RCE в приложениях с интеграцией LLMАктор: Researchers at University of Chinese Academy of Sciences, Shandong University, and University of New South Wales / Тактика: AML.TA0002 Разведка

Исследователи искали цели среди приложений, которые, вероятно, построены на LLM-фреймворках и могут использовать функции, уязвимые к RCE. Для этого они сканировали репозитории исходного кода в поисках URL развернутых приложений.