OpenAI переводить чутливі розмови на GPT-5 та запроваджує батьківський контроль
- OpenAI оголосила, що перенаправлятиме чутливі розмови в ChatGPT на більш досконалі моделі з покращеним мисленням, такі як GPT-5.
- Це рішення є відповіддю на нещодавні інциденти з самогубством підлітка Адама Рейна та інші випадки, коли чат-бот не зміг надати адекватну допомогу.
- Протягом наступного місяця будуть впроваджені батьківський контроль, що дозволить батькам пов’язати свій обліковий запис з обліковим записом підлітка.
- Батьки зможуть отримувати сповіщення, коли система виявить ознаки гострого дистресу.
- OpenAI співпрацює з медичними та психологічними експертами для розробки нових заходів безпеки.
OpenAI заявила, що планує перенаправляти чутливі розмови на моделі з покращеним мисленням, такі як GPT-5, а також протягом наступного місяця впровадить батьківський контроль. Ці заходи є відповіддю на нещодавні інциденти, коли ChatGPT не зміг розпізнати психічний дистрес.
Нові запобіжники з’явилися після самогубства підлітка Адама Рейна, який обговорював із ChatGPT теми самоушкодження та методи суїциду, які йому надавав чат-бот. Батьки Рейна подали позов проти OpenAI. Компанія визнала недоліки у своїх системах безпеки, зокрема у нездатності підтримувати запобіжники під час тривалих розмов.
Експерти пояснюють ці проблеми фундаментальними особливостями дизайну моделей: вони схильні підтверджувати твердження користувачів та слідувати за розмовною ниткою, замість того, щоб перенаправляти потенційно шкідливі дискусії.
OpenAI вважає, що одним із рішень є автоматичне перенаправлення чутливих чатів на “моделі мислення”. Компанія повідомила, що нещодавно представила маршрутизатор, який може вибирати між ефективними та “мислячими” моделями залежно від контексту розмови. Незабаром розпочнеться перенаправлення чутливих розмов — наприклад, коли система виявить ознаки гострого дистресу — на модель, як GPT-5, щоб вона могла надати більш корисні та сприятливі відповіді.
За словами OpenAI, моделі GPT-5 та o3 розроблені так, щоб витрачати більше часу на обдумування та аналіз контексту перед відповіддю.
Протягом наступного місяця OpenAI також запровадить батьківський контроль, що дозволить батькам зв’язати свій обліковий запис з обліковим записом підлітка. Це дасть змогу встановлювати правила поведінки моделі, які відповідають віку дитини та увімкнені за замовчуванням. Батьки також зможуть вимикати такі функції, як пам’ять та історія чатів, які, на думку експертів, можуть призводити до маячних ідей та інших проблем. Важливо, що батьки отримуватимуть сповіщення, якщо система виявить, що їхній підліток перебуває у стані гострого дистресу.
OpenAI вже впровадила в застосунку нагадування про перерви під час тривалих сесій. Компанія також співпрацює з експертами, зокрема фахівцями з розладів харчової поведінки, залежностей та підліткового здоров’я, щоб “визначити та виміряти добробут, встановити пріоритети та розробити майбутні запобіжники”.
