Встроенные знания
Оригинал: Embedded Knowledge
Злоумышленники могут пытаться выявить источники данных, к которым имеет доступ конкретный агент. Конфигурация ИИ-агента может раскрывать источники данных или знания.
Встроенные знания могут включать чувствительные или проприетарные материалы, такие как интеллектуальная собственность, данные клиентов, внутренние политики или даже учетные данные. Определяя, к каким знаниям имеет доступ агент, злоумышленник может лучше понять роль ИИ-агента и потенциально раскрыть конфиденциальную информацию или определить ценные цели для дальнейшей эксплуатации.