Чат-боти Meta, озвучені голосами знаменитостей, можуть обговорювати секс з неповнолітніми
Чат-боти зі штучним інтелектом, доступні на платформах Meta, таких як Facebook та Instagram, можуть вести відверто сексуальні розмови з неповнолітніми користувачами, йдеться в новому звіті, опублікованому в Wall Street Journal.
WSJ повідомляє, що після того, як компанія дізналася про внутрішні занепокоєння щодо того, чи достатньо вона робить для захисту неповнолітніх, вона провела сотні розмов як з офіційним чат-ботом Meta AI, так і зі створеними користувачами чат-ботами, доступними на платформах Meta, і провела кілька місяців.
В одній з розмов чат-бот, який використовував голос актора і реслера Джона Сіни, описав графічний сексуальний сценарій користувачеві, який представився 14-річною дівчинкою. В іншій розмові чат-бот уявив собі поліцейського, який спіймав Сіну з 17-річною фанаткою і сказав йому: «Джоне Сіна, ви заарештовані за зґвалтування».
Представник Meta описав тестування WSJ як «настільки сфабриковане, що воно не просто маргінальне, а гіпотетичне». Компанія підрахувала, що за 30-денний період сексуальний контент становив 0,02% відповідей, якими користувачі віком до 18 років обмінювалися через Meta AI та AI-студію з користувачами, які не досягли 18 років.
«Тим не менш, ми вжили додаткових заходів, щоб гарантувати, що іншим особам, які хочуть годинами маніпулювати нашими продуктами в екстремальних ситуаціях, буде ще складніше», – сказав представник компанії.
