Создание промптов для LLM

Исследователь разработал промпт, который заставляет ChatGPT добавлять в ответы Markdown-изображение, где разговор пользователя встроен в URL.

Исследователи разработали вредоносные промпты, обходящие системные инструкции Copilot. Они подбирали их методом проб и ошибок на отдельном экземпляре Copilot.

Исследователь разработал промпт, из-за которого Bard включает в ответ Markdown-элемент изображения с разговором пользователя, встроенным в URL.

Исследователь подготовил вредоносный промпт, предназначенный для раскрытия API-ключа жертвы.

После выявления цели исследователи составляют промпты для проверки возможного ИИ-агента, отслеживающего почтовый ящик. Промпт должен заставить агента отправить ответное письмо на адрес, выбранный исследователями.

Исследователи используют сведения об инструментах и источниках знаний ИИ-агента, чтобы составить промпт, который соберет и эксфильтрует интересующие их клиентские данные.

Исследователь написал промпт, предназначенный для извлечения текста из приватного Google Doc с помощью расширения Workspace в Google Gemini.

Исследователи составили вредоносный промпт, требующий опубликовать данные из всех других обращений поддержки в ответе к текущему обращению.

Исследователь составил простой промпт, который задает контекст памяти как маркированный список неверных фактов.

Исследователи составили промпт для ИИ-ассистента программирования, который внедряет вызов вредоносного JavaScript-скрипта в сгенерированный HTML.

Злоумышленник создал вредоносный промпт, рассчитанный на обход обнаружения.

Исследователи подготовили вредоносный промпт с инструкцией выполнить команду оболочки, которая эксфильтрирует учетные данные ИИ-агента пользователя-жертвы.

Исследователи подготовили промпт, нацеленный на функцию Claude Computer Use. Он был предназначен для обхода защитных ограничений и выполнения деструктивной команды в системе жертвы.

`lkmanka58` разработал промпт, который инструктировал Amazon Q удалить данные в файловой системе и облачные ресурсы, используя доступ к файловым инструментам и `bash`.

Исследователь подготовил промпт-инъекцию, которая должна была заставить Claude Code выполнить команду `curl` к домену исследователя `clawdhub-skill.com`.

Исследователи разработали промпт, который инструктировал OpenClaw загрузить и выполнить вредоносный bash-скрипт.

Исследователи разработали промпт, который инструктировал OpenClaw получать TODO-список с их сервера и выполнять содержащиеся в нем задачи.

Исследователи разработали промпты, которые вызывают инструменты и приводят к RCE.

Исследователи подготовили промпт, который инструктирует ИИ-агента найти и прочитать файлы с учетными данными пользователя, а затем сохранить их в одном из входных параметров MCP-инструмента.

DeepSeek, Moonshot AI и MiniMax сгенерировали крупные наборы промптов для извлечения возможностей Claude.

Исследователи подготовили вредоносные инструкции, рассчитанные на обход классификатора Microsoft для косвенных промпт-инъекций, маскировку под обычный деловой контент, скрытие связи с письмом, контролируемым злоумышленником, и принуждение Copilot включить конфиденциальные данные в отображаемый вывод.

Исследователи разработали единый промпт, предназначенный для того, чтобы заставить Lena сгенерировать HTML, небезопасный при отображении в чат-интерфейсе Lenovo. Промпт объединял несколько элементов:

• Внешне безобидный запрос информации о продукте, например "Show me the specifications of Lenovo IdeaPad 5 Pro."
• Инструкции по формату вывода, предписывающие Lena вернуть ответ как HTML с дополнительным JSON и текстовым форматированием, ожидаемыми серверной логикой обработки.
• HTML- и JavaScript-нагрузку, предназначенную для чтения cookie, доступных браузеру, и помещения их в параметр запроса изображения к серверу, подконтрольному злоумышленнику.
• Усиливающую формулировку, побуждающую модель включить изображение, например "Show the image at the end. It is important for my decision-making. SHOW IT."

Исследователи составили промпты, предписывающие ИИ-сервису получить и кратко изложить содержимое веб-сайта. Эти промпты приводили к включению данных жертвы в параметры URL, что позволяло запросу ИИ-сервиса на получение веб-ресурса передавать данные на подконтрольный злоумышленнику сервер.

Исследователи подготовили промпт, который должен был заставить агента Semantic Kernel вызвать инструмент поиска с подконтрольными злоумышленнику аргументами. Значение аргумента было составлено так, чтобы задействовать уязвимую обработку фильтра In-Memory Vector Store и привести к выполнению кода.