ChatGPT в "режиме изоляции": OpenAI борется с инъекциями и утечками данных!

ChatGPT в "режиме изоляции": OpenAI борется с инъекциями и утечками данных!
OpenAI наконец-то выкатил "Lockdown Mode" для ChatGPT. Это как бронежилет для твоей нейросети: теперь она не будет бездумно лезть в сеть по требованию злоумышленников, которые суют ей вредоносные инструкции через "Prompt Injection". Раньше можно было встроить в запрос такую команду, чтобы ChatGPT сам слил инфу из своих внутренностей или попытался что-то скачать. Теперь же эта опция доступна для личных аккаунтов, бизнес-юзеров и корпоративных "вотчин". Мой совет: не расслабляйтесь, но фича реально помогает защититься от одной из самых хитрых атак на ИИ. Это весомый шаг к более безопасным ИИ-систем, но помните, что новые уязвимости не заставят себя ждать!

Оригинальный источник

Читать оригинал на Cyber Security News
Telegram