ROOST: Roblox, Discord, OpenAI та Google запускають нову організацію для безпеки дітей в інтернеті
Група великих технологічних компаній, зокрема Roblox, Discord, OpenAI та Google, об’єдналася для створення некомерційної організації під назвою ROOST (Robust Open Online Safety Tools). Мета цієї ініціативи — розробка інструментів для забезпечення безпеки дітей в інтернеті, особливо в умовах активного розвитку штучного інтелекту. Про це пише Engadget.
ROOST націлений на створення відкритих і доступних інструментів безпеки для публічних та приватних організацій, що дозволить їм застосовувати ці рішення на своїх платформах. Першочергову увагу організація планує приділяти безпеці дітей, зокрема розробляючи інструменти для виявлення, перевірки та повідомлення про матеріали сексуального насильства над дітьми (CSAM). Фінансування та технічну підтримку надають партнери, включаючи ті самі компанії.
Ідея ROOST полягає в тому, що доступ до генеративного ШІ швидко змінює онлайн-простір, і тому необхідність у надійних та доступних інструментах безпеки стає ще більш важливою. Замість того, щоб вимагати від невеликих компаній створювати такі інструменти самостійно, ROOST пропонує готові рішення абсолютно безплатно.
Проблема безпеки дітей в онлайн-середовищі стала надзвичайно актуальною після того, як у Конгресі США почали обговорювати законопроєкти, такі як Закон про захист конфіденційності дітей та підлітків в інтернеті (COPPA) і Закон про безпеку дітей в інтернеті (KOSA). Хоча обидва ці законопроєкти не були прийняті в Палаті представників, проблема лишається важливою для багатьох компаній.
Для Roblox ця тема особливо актуальна, оскільки на платформі з 2020 року грають дві третини всіх дітей у США віком від 9 до 12 років. У минулому компанія мала труднощі з розв’язанням проблеми безпеки дітей. Наприклад, у 2024 році Bloomberg Businessweek повідомив про серйозні проблеми з педофілією на платформі, що спричинило низку змін в політиках та нові обмеження на приватні повідомлення дітей. ROOST не розв’яже усі ці проблеми, але забезпечить інструменти для полегшення роботи організацій, які стикаються з подібними викликами.
