Дослідники таємно експериментували з користувачами Reddit за допомогою коментарів, згенерованих штучним інтелектом
Місяцями в одному з найпопулярніших сабредітів Reddit — r/changemyview — проводився секретний експеримент із використанням штучного інтелекту. Дослідники з Цюрихського університету без попередження заполонили платформу коментарями, згенерованими великими мовними моделями, аби перевірити, наскільки ШІ здатен змінювати погляди реальних користувачів.
Про цей інцидент стало відомо лише нещодавно, після заяви модераторів r/changemyview, які назвали дії вчених «психологічною маніпуляцією». Вони зазначили, що експеримент проводився без згоди учасників і порушив низку внутрішніх правил спільноти.
Під час експерименту мовна модель під виглядом звичайних користувачів залишала коментарі на дописи в r/changemyview — сабредіті, де люди свідомо виставляють свої переконання на публічне обговорення. Ця спільнота налічує понад 3,8 мільйона користувачів і часто потрапляє на головну сторінку Reddit.
ШІ не просто коментував — він створював вигадані образи. Серед них були:
- постраждала від сексуального насильства;
- консультантка з травм, що спеціалізується на насильстві;
- чорношкірий чоловік, який виступає проти руху Black Lives Matter.
Багато таких коментарів було видалено, однак частина з них збереглася в архіві, створеному журналістами 404 Media.
У чернетці своєї наукової статті дослідники описали, що ШІ адаптував відповіді на основі особистих даних авторів постів. Ці дані — стать, вік, етнічність, місце проживання, політичні погляди — були згенеровані іншою мовною моделлю шляхом аналізу попередніх дописів користувачів на Reddit.
Таким чином, коментарі не лише виглядали автентично, а й підлаштовувалися під персональний контекст кожного користувача — без його відома.
Модератори r/changemyview зазначили, що дослідники грубо порушили правила: не вказали використання ШІ, а також застосовували ботів, що прямо заборонено. Вони подали офіційну скаргу до Цюрихського університету і закликали дослідників не публікувати результати.
Reddit, зі свого боку, також різко відреагував. Головний юрисконсульт компанії Бен Лі заявив, що експеримент був «глибоко неправильним як з моральної, так і з юридичної точки зору» і порушив правила всієї платформи.
Компанія заблокувала всі облікові записи, пов’язані з експериментом, і повідомила про плани вдосконалити виявлення неавтентичного контенту. Крім того, Reddit готує юридичні претензії до Цюрихського університету та конкретної дослідницької групи.
На звинувачення модераторів науковці відповіли через Reddit і в самій статті. Вони визнали, що експеримент був «небажаним втручанням», але наполягали, що потенційна користь переважає ризики.
За їхніми словами, дослідження мало на меті зрозуміти, як ШІ може впливати на людей у реальних умовах — адже ці технології вже доступні для зловмисників, які можуть використовувати їх для впливу на вибори чи поширення мови ворожнечі.
Втім, модератори залишилися непохитними:
«Люди не приходять сюди, щоб дискутувати з ШІ чи ставати піддослідними. Вони заслуговують на простір без таких вторгнень», — заявили вони.
