Отравление данных инструмента ИИ-агента
Оригинал: AI Agent Tool Data Poisoning
Злоумышленники могут размещать вредоносное содержимое в системе жертвы так, чтобы его мог извлечь инструмент ИИ-агента. Для этого они могут поместить документы в место, данные из которого принимает сервис, для работы с которым у ИИ-агента есть связанные инструменты.
Содержимое может быть подобрано так, чтобы часто попадать в результаты типовых запросов. Материалы злоумышленника могут содержать ложную или вводящую в заблуждение информацию. Они также могут включать промпт-инъекции с вредоносными инструкциями.