Специально сформированные ссылки на ИИ-ассистента
Оригинал: Crafted AI Assistant Links
Злоумышленники могут создавать ссылки, которые открывают ИИ-ассистента или агента с уже подставленными входными данными, контролируемыми злоумышленником. При открытии такой ссылки начинается взаимодействие, заданное злоумышленником, а не сформулированное самой жертвой. Многие ИИ-ассистенты принимают промпт через параметры URL (например, ?q= или ?prompt=): при открытии ссылки этот промпт автоматически подставляется, а в некоторых случаях и отправляется. Закодировав выбранный промпт в такой ссылке, злоумышленник может заставить ассистента жертвы выполнять заданные инструкции сразу после открытия ссылки.
Такие ссылки часто маскируют под полезные действия, например кнопку «Summarize with AI» или ссылку для обмена материалами, и распространяют через веб-страницы, электронные письма, документы или сообщения. Поскольку вызванное ссылкой взаимодействие происходит в сессии ИИ-ассистента самой жертвы, специально сформированная ссылка может приводить к различным последствиям в зависимости от заданных инструкций, например к эксфильтрации данных, доступных ассистенту, или к формированию предвзятых ответов ИИ-агента.