Извлечение ИИ-моделей из Google Photos
Оригинал: Google Photos AI Model Extraction
Исследователи Skyld проанализировали Android-приложение Google Photos и восстановили модели TensorFlow Lite, применяемые в ИИ-функциях редактирования фотографий и анализа изображений. Исследователи обнаружили модели, хранившиеся без шифрования в ресурсах приложения, встроенные в нативную библиотеку, а также зашифрованные на диске. Они использовали статический реверс-инжиниринг, чтобы найти артефакты TFLite, и динамическую инструментацию с Frida, чтобы получить модели после их расшифровки во время выполнения. Восстановленные модели дали доступ в режиме белого ящика к проприетарным артефактам моделей Google Photos.
Процедура
- AML.TA0008 Выявление
AML.T0007 Выявление ИИ-артефактов
Исследователи Skyld проанализировали Android Package (APK) Google Photos и определили, что приложение использует TensorFlow Lite как фреймворк машинного обучения. Они искали артефакты TFLite в пакете приложения и нативных библиотеках с помощью файлового идентификатора TFL3. - AML.TA0009 Сбор материалов
AML.T0035 Сбор ИИ-артефактов
Исследователи собрали артефакты моделей TensorFlow Lite из нескольких мест в APK, включая незашифрованные ресурсы приложения, файлы, встроенные в нативную библиотеку, и каталоги, специфичные для приложения. - AML.TA0010 Эксфильтрация
AML.T0025 Эксфильтрация киберсредствами
Исследователи использовали статический анализ и инструментацию Frida для восстановления файлов моделей. Для зашифрованных моделей они перехватывали расшифрованные файлы TFLite во время выполнения, когда Google Photos загружал их для выполнения. - AML.TA0000 Доступ к ИИ-модели
AML.T0044 Полный доступ к ИИ-модели
Эксфильтрация файлов моделей из APK дала исследователям полный доступ к ИИ-моделям Google Photos, включая модели для таких задач, как обнаружение лиц, обнаружение объектов, сегментация, оценка глубины, оценка качества изображений и обнаружение размытия. - AML.TA0001 Подготовка атаки на ИИ
AML.T0043.000 Оптимизация в режиме белого ящика
Восстановленные модели TensorFlow Lite могли использоваться для генерации состязательных примеров в режиме белого ящика. - AML.TA0011 Воздействие
AML.T0015 Обход ИИ-модели
Состязательные данные могли использоваться для обхода или иного ухудшения работы моделей Google Photos, включая обнаружение лиц и объектов. - AML.TA0011 Воздействие
AML.T0048.004 Кража интеллектуальной собственности ИИ
Восстановленные модели представляли собой проприетарные ИИ-артефакты Google Photos. Злоумышленник или конкурент мог использовать извлеченные модели для изучения, повторного использования или воспроизведения возможностей Google Photos, снижая затраты на самостоятельную разработку аналогичных функций.