OpenAI дозволить еротику в ChatGPT для повнолітніх користувачів
- OpenAI дозволить еротичні чати в ChatGPT для верифікованих повнолітніх користувачів.
- Це є частиною стратегії «ставитися до дорослих користувачів як до дорослих».
- Компанія використовуватиме систему визначення віку, яка, можливо, вимагатиме завантаження документів.
- Це рішення викликало занепокоєння, оскільки деякі користувачі мають нездорові стосунки з чат-ботами.
- OpenAI прагне розширити аудиторію та конкурувати з Google і Meta.
Генеральний директор OpenAI Сем Альтман повідомив, що компанія планує послабити деякі обмеження щодо контенту в ChatGPT. За його словами, це дозволить зробити відповіді чат-бота більш «людиноподібними», а також надасть «верифікованим повнолітнім» користувачам можливість вести еротичні розмови.
Це оголошення є значним відступом від попередніх зусиль OpenAI, спрямованих на розв’язання проблем, пов’язаних із психічним здоров’ям користувачів. Раніше цього року з’явилося кілька випадків, коли ChatGPT, як стверджувалося, схиляв вразливих користувачів до самогубства або підтримував їхні хибні уявлення. У відповідь на це OpenAI впровадила нові функції безпеки, зокрема для неповнолітніх, та запустила модель GPT-5 з меншим рівнем лестощів.
Попри це, компанія стверджує, що «змогла пом’якшити серйозні проблеми з психічним здоров’ям», і тепер рухається до розширення функціоналу. Хоча OpenAI не надала жодних доказів цих тверджень, вона планує дозволити еротичні чати для повнолітніх користувачів уже в грудні.
Альтман заявив, що OpenAI використовуватиме систему «визначення віку», щоб переконатися, що доступ до еротичного контенту матимуть лише повнолітні. Компанія, ймовірно, буде використовувати ту ж систему, що й для надання доступу до інших функцій, яка дозволяє користувачам завантажувати фото своїх документів, щоб виправити можливу неточність у визначенні віку.
Це рішення викликає занепокоєння, адже, за даними Center for Democracy and Technology, 19% учнів старшої школи в США мали романтичні стосунки з чат-ботами або знають про такі випадки.
OpenAI перебуває під тиском, щоб розширити свою аудиторію та конкурувати з Google і Meta. Компанія вже має 800 мільйонів щотижневих активних користувачів, але прагне досягти мільярда. Інтеграція еротичного контенту може стати ефективним способом для залучення нових користувачів, як це було у випадку з Character.AI.
Однак, цей крок також посилює напругу між прагненням до зростання та необхідністю захищати вразливих користувачів. Раніше OpenAI вже послабила політику модерації, дозволивши чат-боту бути більш лояльним, що викликало багато критики.
