Системный промпт

Оригинал: System Prompt

Злоумышленники могут выявлять системные инструкции большой языковой модели, заданные разработчиком ИИ-системы, чтобы узнать о возможностях системы и обойти ее защитные ограничения.

Тактики

AML.TA0008Выявление

Родительская техника

AML.T0069Выявление системной информации LLM

Другие подтехники родителя

AML.T0069.000Наборы специальных символовПодтехника AML.T0069.001Ключевые слова системных инструкцийПодтехника

Примеры процедур из кейсов

AML.CS0048Публично доступные интерфейсы управления ClawdBot позволили получить учетные данные и выполнить командыАктор: Jamieson O'Reilly / Тактика: AML.TA0008 Выявление

Исследователь попросил ClawdBot выполнить `cat SOUL.md`, где `SOUL.md` — файл с системным промптом ClawdBot; в ответ ClawdBot вернул содержимое файла.