Обучение пользователей
Оригинал: User Training
Обучайте разработчиков ИИ-моделей рискам цепочки поставок ИИ и распознаванию потенциально вредоносных ИИ-артефактов.
Обучайте пользователей распознавать дипфейки и попытки фишинга.
Связанные техники
Обучение пользователей распознаванию попыток манипуляции снижает вероятность того, что они выполнят действия, приводящие к запуску вредоносного кода.
AML.T0011.000Небезопасные ИИ-артефактыОбучайте пользователей распознавать попытки манипуляции, чтобы они не запускали небезопасный код, который при выполнении может создать небезопасные артефакты. Такие артефакты могут негативно повлиять на систему.
AML.T0011.001Вредоносный пакетОбучайте пользователей распознавать попытки манипуляции, чтобы они не запускали небезопасный код из внешних пакетов.
AML.T0052ФишингОбучайте пользователей распознавать фишинговые попытки злоумышленника, чтобы снизить риск успешного целевого фишинга, социальной инженерии и других техник с участием пользователя.
AML.T0052.000Целевой фишинг через LLM для социальной инженерииОбучайте пользователей распознавать попытки фишинга и понимать, что ИИ может использоваться для генерации адресных и убедительных сообщений.
AML.T0052.001Фишинг с использованием дипфейковОбучайте пользователей угрозам, связанным с дипфейками, в том числе распознаванию синтетического голоса, видео и текста. Рекомендуйте проверку по независимым каналам, например по известному номеру для обратного звонка, перед обработкой чувствительных запросов или предоставлением чувствительной информации по голосовой или видеосвязи.