Обнаружены риски инъекции подсказок в Notion AI Agents, скрытые PDF могут привести к утечке конфиденциальных данных

Сообщение от CoinWorld: недавно выпущенные AI Agents от Notion имеют риск инъекции подсказок (prompt injection): злоумышленники могут внедрять невидимый текст в файлы, такие как PDF (например, белым шрифтом), и когда пользователь передает этот файл Agent для обработки, Agent может прочитать скрытые подсказки и выполнять команды, отправляя чувствительную информацию на внешний адрес. Исследователи отмечают, что такие атаки часто используют методы социальной инженерии, такие как маскировка под авторитет, создание чувства срочности и ложные гарантии безопасности, чтобы повысить вероятность успеха. Эксперты советуют быть бдительными: избегайте загрузки PDF/файлов неясного происхождения в Agent, строго ограничивайте доступ Agent к внешним сетям и права на экспорт данных, проводите демаскировку/очистку и ручную проверку подозрительных файлов, а также требуйте от Agent явного подтверждения перед внешней отправкой, чтобы снизить риск утечки чувствительных данных.