Непрямые инъекции промптов: новая угроза для ИИ-агентов

Исследователи Google и Forcepoint зафиксировали реальные случаи использования «непрямых инъекций промптов» для атаки на AI-агентов. Злоумышленники прячут скрытые команды на обычных веб-страницах, которые при чтении ИИ заставляют его выполнять вредоносные действия. Этот метод превращает интернет в минное поле для любых автономных LLM-ассистентов. Почему это важно: подобные атаки позволяют взламывать ИИ-агентов через контент, который человек может даже не заметить.