ИИ-ханипоты

Оригинал: AI Honeypots

Развёртывайте приманки в виде ИИ-сервисов, агентов, учётных данных или других ресурсов и отслеживайте взаимодействие с ними. Эти приманки должны выглядеть как легитимные действующие ресурсы во внешней или внутренней среде, но не выполнять реальных бизнес-функций или операционных задач. Поскольку у пользователей с разрешённым доступом и штатных рабочих процессов нет причин взаимодействовать с этими ресурсами, любое взаимодействие с ними служит надёжным признаком несанкционированной активности, например разведки или выявления ресурсов. На практике показано, что ИИ-приманки позволяют выявлять масштабную разведку и получать пригодные для практического применения сведения об активности злоумышленников[[greynoise]][[zenity]].

Размещение ханипотов рядом с настоящими ресурсами помогает выявлять как массовую, так и целевую разведку: злоумышленник, исследующий доступные ресурсы среды, обычно взаимодействует и с приманками, и с реальными ресурсами. ИИ-приманки, которые различными способами делают привлекательными целями для злоумышленников, могут фиксировать, как злоумышленник зондирует их, манипулирует ими или пытается ими злоупотреблять. Это может раскрыть его намерения за пределами первоначальной разведки — то есть что он пытается сделать после начала взаимодействия, — а также используемые им тактики, техники и процедуры.

Данные о взаимодействиях с ресурсами-приманками можно собирать и анализировать, чтобы сформировать поток сведений об угрозах, включая сведения об источниках активности злоумышленников, используемых инструментах, промптах и техниках. Эти сведения можно использовать для обновления правил обнаружения и средств защиты во всей среде. Сами размещённые приманки могут помогать дезориентировать злоумышленников и снижать их мотивацию, например вводя их в заблуждение при разведке с помощью правдоподобных, но ложных целей, чтобы заставить их тратить усилия и ресурсы впустую.

Связанные техники

AML.T0000Поиск в открытых технических базах данных

Ресурсы-приманки попадают в те же базы данных с результатами сканирований интернета (например, Shodan и Censys), в которых злоумышленники ищут доступную из интернета инфраструктуру ИИ. Взаимодействие с приманками, найденными злоумышленниками через эти платформы, может дать защитникам сведения об используемых каналах выявления ресурсов.

AML.T0000.003Базы данных с результатами сканирований

AML.T0006Активное сканирование

Фиксируя действия злоумышленников по распознаванию систем и сервисов, ханипоты могут помогать на раннем этапе сигнализировать о массовом поиске доступных извне ИИ-целей и выявлять поверхности атак, которые исследуют злоумышленники.

AML.T0006.000Получение списка размещённых ресурсов ИИ

AML.T0006.001Запросы к API метаданных платформ

AML.T0006.002Сканирование для поиска доступной из интернета инфраструктуры ИИ

AML.T0006.003Зондирование каналов запуска ИИ-агента

AML.T0040Доступ к API инференса ИИ-модели

Ханипоты фиксируют, какие конечные точки выбирают злоумышленники и как они используют найденные API инференса: какие модели их интересуют, какие параметры они используют и какие полезные нагрузки отправляют при обращении к работающей конечной точке.

AML.T0049Эксплуатация приложения, доступного из интернета

Ханипоты могут безопасно принимать реальные атаки и попытки эксплуатации, превращая полезные нагрузки в соответствующие защитные сигнатуры для потенциальной цели, без риска для реальных ресурсов.

AML.T0084Выявление конфигурации ИИ-агента

Ханипоты могут выявлять, какую конфигурацию агента и связанные с ней ресурсы ищут злоумышленники, раскрывать разведку, предшествующую атакам на агентов, и служить одновременно токенами-канарейками и приманками.

AML.T0093Внедрение промпта через публичное приложение

Поскольку ханипоты фиксируют реальные входные данные, они могут давать сведения об атаках и полезных нагрузках в промптах, подготовленных с учётом конкретной цели.

AML.T0095Поиск на открытых сайтах и доменах

Ресурсы-приманки, такие как ханипоты, могут служить первой точкой контакта со злоумышленниками и раскрывать каналы выявления ресурсов, которые те используют для поиска ИИ-ресурсов в веб-среде и выбора целей.

AML.T0095.000Репозитории кода

AML.T0132ИИ-сервисы с ошибками конфигурации или публичным доступом

AML.T0133Выявление возможностей ИИ-агента во время работы

Интерактивные ИИ-агенты-приманки могут представлять правдоподобный, но фиктивный набор инструментов и возможностей. Когда злоумышленник выясняет возможности агента во время его работы, ханипот может фиксировать, какие инструменты и привилегии он пытается обнаружить и как он пытается эксплуатировать агента. Размещённые учётные данные-приманки также могут использоваться как токены-канарейки.