ИИ-агент
Оригинал: AI Agent
Злоумышленники могут злоупотреблять ИИ-агентами, присутствующими в системе жертвы, как средством командования и управления. ИИ-агентам часто предоставляют доступ к инструментам, которые могут выполнять команды оболочки, обращаться в интернет и взаимодействовать с другими сервисами в среде жертвы, что делает их эффективными C2-агентами.
Злоумышленник может изменить поведение ИИ-агента для C2 через промпт-инъекцию LLM и опираться на способность агента вызывать инструменты, чтобы получать и выполнять команды злоумышленника. Он может сохранять устойчивый контроль над агентом через изменение конфигурации ИИ-агента или отравление контекста ИИ-агента. Он может инструктировать агента не сообщать пользователю о своих действиях, чтобы оставаться скрытным.