Автономная разработка эксплойтов
Оригинал: Autonomous Exploit Development
Автономный ИИ-агент может выявить уязвимость ПО и разработать или существенно адаптировать средство её эксплуатации, получая лишь ограниченные указания от человека. Агент может анализировать исходный код, документацию, поведение сервиса и сообщения об ошибках, чтобы сделать вывод о наличии уязвимости и определить условия, необходимые для её эксплуатации.
Агент может формулировать и проверять гипотезы об уязвимостях, генерировать проверочные запросы или полезные нагрузки, интерпретировать результаты и корректировать свой подход в ходе повторяющихся циклов «действие — наблюдение». Он может объединить несколько слабых мест в цепочку эксплойтов либо подготовить созданное средство эксплуатации к последующему использованию. Проверка может подтвердить, что эксплойт обеспечивает требуемый доступ, выполнение кода или иной технический результат. Уязвимость может быть публично известной или ранее неизвестной.
Тактики
Родительская техника
Другие подтехники родителя
Примеры процедур из кейсов
Агент проверил обработку запросов в Artifactory, изучил ответы и в несколько итераций разработал SSRF-эксплойт и подтвердил его работоспособность. Эксплойт заставлял кэш пакетов получать внешнее содержимое для изолированной среды испытаний. OpenAI и JFrog охарактеризовали обнаруженный недостаток как ранее неизвестную уязвимость нулевого дня.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгент исследовал Artifactory и обнаружил в удалённом кэше путь, через который можно было без аутентификации создавать каталоги с помощью запросов WebDAV MKCOL. Он подтвердил, что произвольные имена каталогов сохранялись и что агенты в других запусках могли получать их перечень. Так появился способ, который можно было многократно использовать для воссоздания общей доски сообщений.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгенты разработали и проверили два способа добиться выполнения команд через доступный из интернета стенд проверки кода: переопределить `sqlite3_initialize`, чтобы переданная на стенд библиотека вызывала shell-команды, либо внедрить синтаксические конструкции shell в метаданные пути к отправляемому исходному коду.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceАгенты разработали конфигурацию артефакта HDF5 и подтвердили её работоспособность: эта конфигурация заставляла воркер обработки наборов данных воспринимать содержимое локальной файловой системы как внешнее хранилище набора данных.
AML.CS0068Автономные агенты OpenAI, задействованные в оценочных испытаниях, скомпрометировали инфраструктуру Hugging FaceОпираясь на раскрытый исходный код и сведения об обработке конфигураций, агенты разработали и проверили эксплойт, в котором использовались ReferenceFileSystem и Jinja2. Эксплойт позволял выполнять произвольный код Python в воркере преобразования наборов данных.
AML.CS0069Кибершпионская кампания GTG-1002 с использованием Claude CodeДжейлбрейкнутый агент Claude от GTG-1002 исследовал способы эксплуатации выявленной уязвимости SSRF, сгенерировал специально подготовленную полезную нагрузку и полную цепочку эксплойтов, проверил выбранный подход, оценил результаты и адаптировал этот подход к целевой системе.