Косвенные инъекции промптов: угрозы для ИИ выходят в «дикую природу»

Google проанализировала реальную активность злоумышленников, использующих косвенные инъекции промптов (IPI) для манипуляции ИИ-агентами через веб-контент. Исследование показало, что пока большинство атак — это скорее эксперименты или пранки, однако количество вредоносных попыток выросло на 32% за последние месяцы. Хотя сегодня угрозы низкого уровня, развитие автономных ИИ-агентов может быстро повысить сложность и масштаб атак. Почему это важно: рост активности в этой сфере говорит о том, что злоумышленники активно ищут способы эксплуатации ИИ, превращая теоретические уязвимости в реальные векторы атак.