OpenAI призупинила генерацію відео з Мартіном Лютером Кінгом у Sora
- OpenAI призупинила генерацію відео з Мартіном Лютером Кінгом-молодшим у застосунку Sora на прохання його родини.
- Рішення прийнято через створення неповажних діпфейків історичної постаті.
- OpenAI заявила, що посилює «захисні механізми» для історичних фігур.
- Донька Робіна Вільямса також просила припинити створення ШІ-відео свого батька.
OpenAI тимчасово призупинила можливість генерації відео із зображенням Мартіна Лютера Кінга-молодшого у своєму застосунку Sora. Це рішення було прийнято на прохання King Inc. — організації, яка керує спадщиною американського борця за громадянські права.
Компанія заявила, що працює над посиленням «захисних механізмів для історичних постатей», оскільки користувачі створювали неповажні діпфейки.
Після запуску Sora користувачі почали генерувати відео зі зображенням померлих публічних осіб, зокрема Мартіна Лютера Кінга-молодшого, Майкла Джексона та Робіна Вільямса. Донька Робіна Вільямса, Зельда Вільямс, публічно просила людей припинити надсилати їй ШІ-відео її батька. Вона назвала це «божевіллям» — спостерігати, як спадщину реальних людей зводять до «чогось, що віддалено схоже на них».
Донька Мартіна Лютера Кінга-молодшого, Берніс А. Кінг, також попросила припинити надсилати їй такі відео.
Згідно з повідомленням The Washington Post, серед відео, згенерованих у Sora, були такі, де Кінг-молодший робив мавпячі звуки під час промови «I Have a Dream», або боровся з Малкольмом Іксом.
OpenAI заявила, що, попри «сильні інтереси свободи слова» у зображенні історичних постатей, компанія вважає, що «публічні особи та їхні родини повинні мати повний контроль над тим, як використовується їхня подоба».
OpenAI також додала, що власники спадщини інших історичних постатей можуть звернутися до компанії з проханням заборонити використання їхньої подоби у відео, згенерованих у Sora. Компанія буде розширювати ці обмеження, щоб захистити репутацію відомих особистостей.
