Выявление системной информации LLM
Оригинал: Discover LLM System Information
Злоумышленник пытается выявить системную информацию большой языковой модели (LLM). Эта информация может находиться в конфигурационном файле, содержащем системные инструкции, или извлекаться через взаимодействие с LLM. Интересующая информация может включать полный системный промпт, специальные символы, значимые для LLM, или ключевые слова, указывающие на функциональность, доступную LLM. Сведения о том, как LLM проинструктирована, могут использоваться злоумышленником, чтобы понять возможности системы и упростить создание вредоносных промптов.