Обучение пользователей

Оригинал: User Training

Обучайте разработчиков ИИ-моделей рискам цепочки поставок ИИ и распознаванию потенциально вредоносных ИИ-артефактов.

Обучайте пользователей распознавать дипфейки и попытки фишинга.

Связанные техники

AML.T0011Запуск пользователем

Обучение пользователей распознаванию попыток манипуляции снижает вероятность того, что они выполнят действия, приводящие к запуску вредоносного кода.

AML.T0011.000Небезопасные ИИ-артефакты

Обучайте пользователей распознавать попытки манипуляции, чтобы они не запускали небезопасный код, который при выполнении может создать небезопасные артефакты. Такие артефакты могут негативно повлиять на систему.

AML.T0011.001Вредоносный пакет

Обучайте пользователей распознавать попытки манипуляции, чтобы они не запускали небезопасный код из внешних пакетов.

AML.T0052Фишинг

Обучайте пользователей распознавать фишинговые попытки злоумышленника, чтобы снизить риск успешного целевого фишинга, социальной инженерии и других техник с участием пользователя.

AML.T0052.000Целевой фишинг через LLM для социальной инженерии

Обучайте пользователей распознавать попытки фишинга и понимать, что ИИ может использоваться для генерации адресных и убедительных сообщений.

AML.T0052.001Фишинг с использованием дипфейков

Обучайте пользователей угрозам, связанным с дипфейками, в том числе распознаванию синтетического голоса, видео и текста. Рекомендуйте проверку по независимым каналам, например по известному номеру для обратного звонка, перед обработкой чувствительных запросов или предоставлением чувствительной информации по голосовой или видеосвязи.