Кража интеллектуальной собственности ИИ
Оригинал: AI Intellectual Property Theft
Злоумышленники могут эксфильтровать ИИ-артефакты, чтобы украсть интеллектуальную собственность и причинить экономический ущерб организации-жертве.
Проприетарные обучающие данные дорого собирать и размечать, поэтому они могут быть целью для эксфильтрации и кражи.
Провайдеры AIaaS взимают плату за использование своих API.
Злоумышленник, укравший модель через эксфильтрацию или с помощью извлечения ИИ-модели, получает неограниченную возможность использовать этот сервис без оплаты владельцу интеллектуальной собственности.
Тактики
Родительская техника
Другие подтехники родителя
Меры защиты
Контроль доступа может предотвращать кражу интеллектуальной собственности.
AML.M0012Шифрование чувствительной информацииЗащищайте артефакты машинного обучения с помощью шифрования.
AML.M0017Методы распространения ИИ-моделейОтказ от развертывания моделей на периферийных устройствах снижает потенциальный доступ злоумышленника к моделям или ИИ-артефактам.
Примеры процедур из кейсов
Реплицировав модель с высокой точностью, исследователи показали, что злоумышленник может украсть модель и нарушить права организации-жертвы на интеллектуальную собственность.
AML.CS0018Выполнение произвольного кода через Google ColabЭксфильтрированные данные могут включать чувствительные или частные данные, например артефакты ML-моделей, хранящиеся в Google Drive.
AML.CS0027Путаница с организациями на Hugging FaceПолучив полный доступ к моделям, злоумышленник мог украсть ценную интеллектуальную собственность в виде ИИ-моделей.
AML.CS0028Подмена ИИ-модели через атаку на цепочку поставокПолучив полный доступ к моделям, злоумышленник получает ценную интеллектуальную собственность организации.
AML.CS0056Кампании по дистилляции моделей, нацеленные на Anthropic ClaudeDeepSeek, Moonshot AI и MiniMax переняли возможности Claude с помощью дистилляции, затратив лишь малую часть стоимости разработки собственных моделей. Их интересовали наиболее отличительные возможности Claude, включая агентное рассуждение, использование инструментов и генерацию кода.
AML.CS0058Извлечение ИИ-моделей из Google PhotosВосстановленные модели представляли собой проприетарные ИИ-артефакты Google Photos. Злоумышленник или конкурент мог использовать извлеченные модели для изучения, повторного использования или воспроизведения возможностей Google Photos, снижая затраты на самостоятельную разработку аналогичных функций.