Получение публичных ИИ-артефактов

Оригинал: Acquire Public AI Artifacts

Злоумышленники могут искать в публичных источниках, включая облачные хранилища, публично доступные сервисы, а также репозитории ПО или данных, чтобы выявить ИИ-артефакты. Такие ИИ-артефакты могут включать программный стек, используемый для обучения и развертывания моделей, обучающие и тестовые данные, конфигурации и параметры моделей. Злоумышленника будут особенно интересовать артефакты, размещенные организацией-жертвой или связанные с ней, поскольку они могут отражать то, что организация использует в продакшене. Злоумышленники могут выявлять репозитории артефактов через другие ресурсы, связанные с организацией-жертвой, например поиск на сайтах организации-жертвы или поиск в открытых технических базах данных. Такие ИИ-артефакты часто дают злоумышленникам сведения о задаче ИИ и используемом подходе.

ИИ-артефакты могут помочь злоумышленнику создать прокси-модель ИИ. Если эти артефакты включают части реальной модели, используемой в продакшене, их можно напрямую использовать для создания состязательных данных. Получение некоторых артефактов требует регистрации с указанием пользовательских данных, например email или имени, ключей AWS или письменных запросов, а также может потребовать от злоумышленника создать учетные записи.

Артефакты могут размещаться на инфраструктуре, контролируемой жертвой, что дает жертве некоторую информацию о том, кто обращался к этим данным.

Тактики

Подтехники

Меры защиты

Примеры процедур из кейсов