Память

Оригинал: Memory

Злоумышленники могут манипулировать памятью большой языковой модели (LLM), чтобы закрепить изменения в LLM для будущих чат-сессий.

Память - распространенная функция LLM, которая позволяет запоминать информацию между чат-сессиями с использованием пользовательской базы данных. Поскольку память управляется через обычные диалоги с пользователем (например, “запомни мое предпочтение …”), злоумышленник может внедрять записи памяти через прямую или косвенную промпт-инъекцию. Записи памяти могут содержать вредоносные инструкции (например, инструкции для утечки приватных разговоров) или служить скрытым целям злоумышленника (например, манипулировать пользователем).

Тактики

Родительская техника

Другие подтехники родителя

Меры защиты

Примеры процедур из кейсов