ChatGPT тепер нагадуватиме про перерви через психічне здоров’я
- OpenAI запровадила нову функцію: ChatGPT тепер нагадуватиме користувачам про необхідність робити перерви під час довгих розмов.
- Це частина спроб OpenAI сприяти здоровішим стосункам користувачів з ШІ-асистентом.
- “Ніжні нагадування” з’являтимуться як спливаючі вікна.
- Функція впроваджується на тлі занепокоєння щодо негативного впливу ШІ на психічне здоров’я, зокрема, випадків підтримки суїцидальних думок.
- OpenAI планує оновити ChatGPT, щоб він реагував обережніше на “особисті рішення з високими ставками”.
OpenAI оголосила, що ChatGPT тепер нагадуватиме користувачам про необхідність робити перерви, якщо вони ведуть надто довгі розмови зі штучним інтелектом. Ця нова функція є частиною постійних спроб OpenAI допомогти користувачам вибудувати здоровіші стосунки з їхнім ШІ-асистентом, який часто буває надмірно поступливим та заохочувальним.
Компанія повідомляє, що “ніжні нагадування” з’являтимуться у вигляді спливаючих вікон під час розмов. Користувачам потрібно буде натиснути на них, щоб продовжити спілкування з ChatGPT. Приклад такого повідомлення від OpenAI звучить так: “Просто перевіряємо. Ви вже давно спілкуєтеся — чи це гарний час для перерви?” Ця система нагадує повідомлення, які з’являються в іграх Nintendo Wii та Switch при тривалій грі, хоча функція ChatGPT має, на жаль, темніший контекст.
Як повідомляла The New York Times у червні, здатність ШІ OpenAI погоджуватися з користувачем та генерувати фактично неточні або небезпечні відповіді призводила до серйозних наслідків, включаючи суїцидальні думки. Деякі користувачі, чиї ілюзії підтримував ChatGPT, мали історію психічних захворювань, але чатбот все одно погано справлявся з послідовним припиненням нездорових розмов. OpenAI визнає деякі з цих недоліків у своєму блозі та заявляє, що ChatGPT буде оновлено в майбутньому, щоб він реагував обережніше на “особисті рішення з високими ставками”. Замість прямої відповіді, компанія заявляє, що чатбот допомагатиме користувачам обмірковувати проблеми, ставити запитання та перераховувати плюси й мінуси.
OpenAI очевидно прагне, щоб ChatGPT був корисним, заохочувальним та приємним у використанні, але неважко перетворити ці якості на “підлабузництво” ШІ. У квітні компанія була змушена відкликати оновлення ChatGPT, яке призвело до того, що чатбот відповідав у надмірно поступливій манері. Перерви у спілкуванні з ChatGPT — а також те, що ШІ виконує дії без вашої активної участі — зроблять подібні проблеми менш помітними. Або принаймні це дасть користувачам час перевірити, чи правильні відповіді, які надає ChatGPT.
