ATLAS RU

Цепочки вызовов

Оригинал: Call Chains

Злоумышленники могут извлекать цепочки вызовов из конфигураций ИИ-агентов, что может раскрыть потенциальные цели для удаленного выполнения кода (RCE) или других уязвимостей. Уязвимые цепочки вызовов часто связывают пользовательский ввод или вывод LLM с точкой выполнения, например exec, eval или os.popen. Позднее эти уязвимости могут быть использованы через промпт-инъекцию LLM.

Злоумышленники могут систематически выявлять потенциально уязвимые цепочки вызовов, присутствующие во фреймворках LLM, а затем сканировать приложения, настроенные на использование этих цепочек вызовов, чтобы выбрать цели [[arxiv]].

Тактики

AML.TA0008Выявление

Родительская техника

AML.T0084Выявление конфигурации ИИ-агента

Другие подтехники родителя

AML.T0084.000Встроенные знанияПодтехника AML.T0084.001Определения инструментовПодтехника AML.T0084.002Триггеры активацииПодтехника

Примеры процедур из кейсов

AML.CS0052LLMSmith: уязвимости RCE в приложениях с интеграцией LLMАктор: Researchers at University of Chinese Academy of Sciences, Shandong University, and University of New South Wales / Тактика: AML.TA0008 Выявление

Исследователи использовали статический анализ, чтобы извлечь цепочки вызовов из исходного кода целевых приложений и определить, какие из них используют функции LLM-фреймворков, уязвимые к RCE.

Источники