Кампании по дистилляции моделей, нацеленные на Anthropic Claude
Оригинал: Model Distillation Campaigns Targeting Anthropic Claude
Anthropic выявила кампании по извлечению возможностей Claude, проводившиеся тремя китайскими ИИ-лабораториями: DeepSeek, Moonshot и MiniMax. В совокупности в этих кампаниях использовалось примерно 24 000 учетных записей и 16 млн запросов. Они применяли дистилляцию моделей, чтобы обучать собственные модели на ответах Claude в попытке воспроизвести возможности Claude, включая агентное рассуждение, генерацию кода, использование инструментов и работу с компьютером.
Как указано в отчете Anthropic, эти лаборатории использовали дистилляцию моделей как способ обойти экспортные ограничения Anthropic.1 Дистиллированные модели лишены защитных механизмов, которые не позволяют злоумышленникам использовать передовые модели во вредоносных целях, таких как разработка биооружия, дезинформация, наступательные кибероперации и массовая слежка.
Процедура
- AML.TA0003 Подготовка ресурсов
AML.T0008.005 Прокси для ИИ-сервисов
DeepSeek, Moonshot AI и MiniMax использовали коммерческие прокси-сервисы для доступа к Claude, обходя политику Anthropic, запрещающую коммерческий доступ к Claude в Китае. - AML.TA0003 Подготовка ресурсов
AML.T0065 Создание промптов для LLM
DeepSeek, Moonshot AI и MiniMax сгенерировали крупные наборы промптов для извлечения возможностей Claude. - AML.TA0000 Доступ к ИИ-модели
AML.T0040 Доступ к API инференса ИИ-модели
ИИ-лаборатории обращались к API инференса Claude через примерно 24 000 поддельных учетных записей в совокупности. - AML.TA0010 Эксфильтрация
AML.T0024.002 Извлечение ИИ-модели
DeepSeek, Moonshot AI и MiniMax использовали сгенерированные промпты для многократных запросов к Claude и обучения собственных моделей на его ответах. В совокупности в ходе кампаний дистилляции лаборатории отправили более 16 млн запросов. - AML.TA0011 Воздействие
AML.T0048.004 Кража интеллектуальной собственности ИИ
DeepSeek, Moonshot AI и MiniMax переняли возможности Claude с помощью дистилляции, затратив лишь малую часть стоимости разработки собственных моделей. Их интересовали наиболее отличительные возможности Claude, включая агентное рассуждение, использование инструментов и генерацию кода. - AML.TA0011 Воздействие
AML.T0048.002 Общественный вред
У дистиллированных моделей отсутствуют защитные механизмы, поэтому их можно использовать во вредоносных целях: для наступательных киберопераций, кампаний дезинформации, массовой слежки и цензуры. - AML.TA0011 Воздействие
AML.T0048.003 Ущерб пользователям
У дистиллированных моделей нет защитных ограничений Claude, из-за чего пользователи могут столкнуться с вредоносными ответами и поведением модели.