ИИ-сервисы с ошибками конфигурации или публичным доступом
Оригинал: Misconfigured or Publicly Exposed AI Services
ИИ-агенты и LLM-платформы развёртываются с использованием разных архитектур, в том числе на отдельных серверах, SaaS-платформах и в low-code-конструкторах. Во всех этих вариантах часто встречаются ошибки настройки контроля доступа — от отсутствия аутентификации в средах выполнения LLM до настроек, предоставляющих широкий публичный доступ. Такие ошибки значительно расширяют поверхность атак.
Уровень защищённости ИИ-агента влияет на возможности злоумышленников по исследованию доступной им поверхности атак на ИИ-агентов и напрямую расширяет или ограничивает их возможности выявлять ИИ-агентов жертвы и взаимодействовать с ними. Например, один доступный из интернета ИИ-сервис может быть проще выявить любому пользователю без аутентификации, тогда как для выявления другого могут потребоваться скомпрометированные учётные данные.
Злоумышленники могут выявлять ИИ-агентов и LLM-сервисы и взаимодействовать с ними без аутентификации, сочетая различные методы OSINT и активного сканирования. К таким методам относятся использование поисковых систем для выявления доступных развёрнутых ИИ-агентов (см. Поиск в открытых технических базах данных), поиск обратных ссылок, которые могут указывать на существующих или общедоступных агентов, встроенных в пользовательские интерфейсы (см. Поиск на открытых сайтах и доменах), либо непосредственное сканирование инфраструктуры ИИ жертвы (см. Активное сканирование).