Масове зростання кількості згенерованого ШІ дитячого сексуального насильства виявлено в інтернеті
- Кількість згенерованого ШІ дитячого сексуального насильства (CSAM) стрімко зростає в інтернеті, майже не відрізняючись від реального.
- Internet Watch Foundation виявила 1286 ШІ-генерованих відео цього року (проти 2 у першій половині 2024 року).
- National Center for Missing & Exploited Children отримав 485 000 повідомлень про ШІ-генерований CSAM у першій половині 2025 року (проти 67 000 за весь 2024 рік).
- Цей контент поширюється через даркнет, ускладнюючи його виявлення.
- ШІ-генератори навчаються на реальних зображеннях, а частина нового ШІ-генерованого контенту включає реальний CSAM, перероблений алгоритмом.
- Amazon повідомила про 380 000 випадків ШІ-генерованого CSAM цього року, OpenAI — про 75 000 випадків.
- Міністерство юстиції США розглядає ШІ-генерований CSAM як серйозну загрозу, вже були перші арешти та вироки.
- Попри зростання, ШІ-генерований контент все ще становить незначну частину від усього виявленого CSAM.
Згенеровані штучним інтелектом матеріали, що зображують сексуальне насильство над дітьми (CSAM), масово поширюються в Інтернеті. Про це пише The New York Times.
Дослідники з таких організацій, як Internet Watch Foundation та National Center for Missing & Exploited Children, попереджають, що цей новий ШІ-створений CSAM майже неможливо відрізнити від справжнього.
Internet Watch Foundation, некомерційна організація, яка розслідує та збирає повідомлення про CSAM, цьогоріч вже виявила 1286 ШІ-генерованих відео. Для порівняння, у першій половині 2024 року було виявлено лише два таких відео, що свідчить про експоненційне зростання. National Center for Missing & Exploited Children підтверджує цю статистику, повідомивши, що отримав 485 000 повідомлень про ШІ-генерований CSAM, включаючи статичні зображення та відео, у першій половині 2025 року. Для порівняння, за весь 2024 рік таких випадків було 67 000. Це також значне зростання.
“Це канарейка у вугільній шахті”, — заявив Дерек Рей-Хілл, тимчасовий виконавчий директор Internet Watch Foundation. “Ми бачимо абсолютне цунамі”. Ця технологія постійно вдосконалюється, тому відео та зображення стають все більш реалістичними. Internet Watch Foundation виявила інтернет-форум, де користувачі хвалили реалістичність нових відео. Згідно з повідомленнями, цей контент поширюється через даркнет, що ускладнює його виявлення правоохоронними органами.
Варто пам’ятати, як працюють генератори ШІ-зображень: вони навчаються на реальних зображеннях та відео. Значна частина цього нового потоку ШІ-генерованого контенту включає реальний CSAM, який був перероблений алгоритмом. Деякі матеріали навіть використовують реальні фотографії дітей, зібрані зі шкільних вебсайтів та соціальних мереж.
Ця проблема виникла ще на ранніх етапах розвитку технології. У 2023 році дослідники зі Stanford Internet Observatory виявили сотні прикладів CSAM у наборі даних, використаному в ранній версії генератора зображень Stable Diffusion. Stability AI заявляє, що запровадила заходи безпеки для покращення стандартів та “глибоко віддана запобіганню зловживанню нашою технологією, особливо у створенні та поширенні шкідливого контенту, включаючи CSAM”.
Це спонукало інші компанії почати повідомляти про ШІ-генерований CSAM до National Center for Missing & Exploited Children. Наприклад, Amazon повідомила про вражаючі 380 000 випадків ШІ-генерованого CSAM у першій половині цього року, всі з яких були видалені. OpenAI повідомила про 75 000 таких випадків.
Суди повільно наздоганяють розвиток цієї технології. Міністерство юстиції США здійснило перший відомий арешт минулого року, затримавши чоловіка, підозрюваного у володінні та розповсюдженні ШІ-генерованого CSAM. Нещодавно чоловік у Великій Британії отримав 18 місяців ув’язнення за використання ШІ для створення та продажу цих жахливих зображень.
“Міністерство юстиції розглядає всі форми ШІ-генерованого CSAM як серйозну та нову загрозу”, — заявив Метт Галеотті, голова кримінального відділу Міністерства юстиції.
Варто зазначити, що попри тривожне зростання кількості випадків, ШІ-генерований контент все ще становить лише незначну частину всіх CSAM, виявлених владою та наглядовими організаціями. Наприклад, Internet Watch Foundation підтвердила 291 273 повідомлення про CSAM у 2024 році, і, як зазначалося раніше, лише два випадки були згенеровані ШІ.
