Ошибочная конфигурация Clearview AI
Оригинал: ClearviewAI Misconfiguration
Clearview AI разрабатывает инструмент распознавания лиц, который ищет совпадения по общедоступным фотографиям. Этот инструмент использовался правоохранительными органами и другими сторонами в расследовательских целях.
Репозиторий исходного кода Clearview AI, хотя и был защищен паролем, был настроен ошибочно и позволял произвольному пользователю зарегистрировать учетную запись.
Это позволило внешнему исследователю получить доступ к приватному репозиторию кода, где находились продакшен-учетные данные Clearview AI, ключи к облачным хранилищам с 70 тыс. видеообразцов, а также копии приложений и Slack-токены.
Получив доступ к обучающим данным, злоумышленник может вызвать произвольную ошибочную классификацию в развернутой модели.
Такие атаки показывают, что любые меры защиты ML-системы должны дополнять «традиционную» надлежащую кибергигиену: ограничение доступа по принципу минимальных привилегий, многофакторную аутентификацию, мониторинг и аудит.
Процедура
- AML.TA0003 Подготовка ресурсов
AML.T0021 Создание учетных записей
Исследователь безопасности получил первоначальный доступ к приватному репозиторию кода Clearview AI из-за ошибочной настройки сервера, которая позволяла произвольному пользователю зарегистрировать действительную учетную запись. - AML.TA0009 Сбор материалов
AML.T0036 Данные из информационных репозиториев
Приватный репозиторий кода содержал учетные данные, которые использовались для доступа к облачным хранилищам AWS S3. Это привело к обнаружению ресурсов инструмента распознавания лиц, включая:
выпущенные настольные и мобильные приложения
предварительные версии приложений с новыми возможностями
токены доступа Slack
необработанные видео и другие данные
- AML.TA0003 Подготовка ресурсов
AML.T0002 Получение публичных ИИ-артефактов
Злоумышленники могли скачать обучающие данные и извлечь из исходного кода и декомпилированных бинарных файлов приложений сведения о ПО, моделях и возможностях системы. - AML.TA0011 Воздействие
AML.T0031 Нарушение целостности ИИ-модели
В результате будущие выпуски приложения могли быть скомпрометированы, что привело бы к ухудшению работы системы распознавания лиц или появлению в ней вредоносных возможностей.