Apple і Google просували nudify-застосунки з рейтингом «для дітей»
- Tech Transparency Project виявила 18 nudify-застосунків в App Store і 20 у Google Play — їх активно просували в пошуку.
- Застосунки сукупно заробили $122 млн і були завантажені 483 млн разів; частина мала рейтинг «E» для всіх вікових груп.
- Після публікації звіту Apple видалила 15 застосунків, Google призупинила частину — розслідування тривають.
- Уряди низки країн розробляють законодавство проти діпфейків; Велика Британія закликала заборонити подібні застосунки для дітей.
Організація Tech Transparency Project (TTP) опублікувала звіт, згідно з яким Apple і Google не лише продовжують пропонувати застосунки для «роздягання» реальних людей, а й активно просувають їх у результатах пошуку в App Store і Google Play. Пошук за словами «nudify», «undress» та подібними термінами відкриває доступ до застосунків, що створюють оголені зображення реальних людей або вставляють їх в порнографічні відео.
TTP виявила 18 таких застосунків в App Store і 20 у Google Play. Деякі просувалися з сексуальними зображеннями, інші не рекламувалися явно, але могли використовуватися для створення діпфейків. Сукупний дохід цих застосунків склав близько $122 млн, а кількість завантажень — 483 млн. Частина застосунків отримала рейтинг «E» — «для всіх», що дозволяє їх завантаження дітьми. Зокрема, застосунок Video Face Swap AI: DeepFace, який дозволяє накладати обличчя реальних людей на тіла частково роздягнених жінок, мав позначку «E».
Обидві компанії мають політику, що забороняє сексуальний і порнографічний контент; Google додатково має окрему заборону на застосунки для «роздягання». Після публікації звіту Apple повідомила Bloomberg про видалення 15 застосунків, Google — про призупинення частини з них. Google також надала коментар, зазначивши, що розслідування і правозастосовні дії тривають.
На тлі поширення подібних застосунків ряд урядів розробляє відповідне законодавство. Комісар у справах дітей Великої Британії закликав заборонити ШІ-застосунки для створення оголених діпфейків дітей. США та інші країни запропонували або вже ухвалили закони проти явних діпфейків.
