Уязвимость в памяти ИИ Anthropic: риски безопасности для агентов

Компания Cisco обнаружила и устранила критическую уязвимость в системе памяти ИИ-агентов Anthropic. Ошибка позволяла манипулировать данными, которые модель использует для контекста взаимодействия с пользователем. Эксперты предупреждают, что риск неправильной обработки файлов памяти остается системной проблемой для индустрии. Почему это важно: подобные уязвимости ставят под угрозу конфиденциальность данных, так как через «память» злоумышленники могут внедрять вредоносные инструкции в работу ИИ.