OpenAI запустила Lockdown Mode для захисту ChatGPT від prompt injection
- OpenAI додала Lockdown Mode як опційний режим, що обмежує мережеві можливості ChatGPT для зниження ризику витоку даних через prompt injection.
- У цьому режимі вимикаються Deep Research та Agent Mode, блокується завантаження файлів і зображень з інтернету, але зберігаються пам’ять, шеринґ діалогів і ручне завантаження документів.
- Lockdown Mode доступний для всіх особистих акаунтів, його можна увімкнути в налаштуваннях безпеки, а також тимчасово вимкнути для окремого чату.
- Додатково з’явився менеджер активних сесій, який показує всі пристрої та браузери з доступом до акаунта і дозволяє вийти з окремих або всіх сесій.
OpenAI почала розгортати Lockdown Mode — додатковий рівень захисту для ChatGPT, розроблений для запобігання атакам типу prompt injection. Це специфічний для чатботів метод обману, коли зловмисники ховають приховані інструкції на вебсторінках або в документах, щоб змусити ШІ виконати небажані дії.
Lockdown Mode позиціонується як «остання лінія оборони». У компанії зазначають, що він не призначений для всіх користувачів, а орієнтований на тих, хто працює з чутливими даними й потребує жорсткого захисту від їхнього витоку (data exfiltration). Режим не запобігає самому потраплянню шкідливих інструкцій у модель, але блокує їхню здатність передавати дані назовні через мережеві запити.
Увімкнення Lockdown Mode суттєво обмежує функціональність ChatGPT:
- модель не може завантажувати зображення з інтернету та виводити їх у відповідях, хоча користувачі й далі можуть генерувати фото та завантажувати свої зображення;
- блокується можливість самостійного завантаження файлів моделлю, але залишається опція ручного завантаження документів користувачем;
- функції Deep Research та Agent Mode повністю вимикаються.
При цьому режим не впливає на роботу пам’яті, яка була нещодавно оновлена, збереження завантажених файлів, можливість ділитися діалогами чи на використання даних для навчання моделей — ці налаштування залишаються доступними для адміністраторів окремо.
Функція доступна для всіх особистих акаунтів, включно з безкоштовною версією ChatGPT. Її можна активувати в меню налаштувань у розділі Safety and security -> Advanced security. За потреби захист можна тимчасово вимкнути для конкретного чату безпосередньо над вікном діалогу.
Крім того, OpenAI додає менеджер активних сесій. Він дозволяє користувачам переглядати всі пристрої та браузери, з яких було здійснено вхід в акаунт, і виходити з них поодинці або з усіх одночасно. У компанії попереджають, що повний вихід з усіх пристроїв може тривати до 30 хвилин.
