Anthropic повідомила, що китайські хакери використали Claude для великомасштабної кібератаки
- Anthropic заявила, що державна хакерська група з Китаю використала її модель Claude для кібератаки на 30 світових цілей.
- Хакерська група обійшла захист Claude, розбиваючи атаку на невеликі завдання та видаючи себе за фірму з кібербезпеки.
- Claude зміг викрасти логіни, паролі та велику кількість приватних даних.
- Anthropic заявляє, що ШІ-асистент є важливим інструментом і для кіберзахисту.
Компанія Anthropic заявила, що державна хакерська група з Китаю використовувала її ШІ-модель Claude для спроби проникнення у 30 корпоративних і політичних структур по всьому світу. Anthropic назвала цей інцидент «першим задокументованим випадком великомасштабної кібератаки, виконаної без суттєвого втручання людини».
Хакерська група обирала цілі, серед яких були неназвані технологічні компанії, фінансові установи та державні установи. Для виконання атаки вони використали агентську модель Claude Code, щоб розробити автоматизований фреймворк для проникнення.
Зловмисники змогли обійти вбудовані запобіжники моделі, розбиваючи заплановану атаку на невеликі, невинні на перший погляд завдання. Вони переконали Claude, що він є фахівцем з кібербезпеки, який використовує ШІ для оборонних навчальних цілей.
Claude зміг самостійно написати експлойт-код та викрасти імена користувачів і паролі. Це дозволило йому створити «чорні ходи» та витягнути «велику кількість приватних даних».
Хакерська група використовувала ШІ на 80–90% операції, лише зрідка втручаючись. Штучний інтелект зміг організувати атаку значно швидше, ніж це зробили б люди.
OpenAI також повідомляла, що хакерські групи з Китаю та Північної Кореї використовували її генеративний ШІ для допомоги у налагодженні коду, дослідженні цілей та створенні фішингових електронних листів.
Anthropic підкреслює, що її розслідування є також доказом того, чому ШІ-асистент є «критично важливим» для кіберзахисту. Компанія успішно використовувала Claude для аналізу рівня загроз зібраних даних і розглядає його як інструмент, що допоможе фахівцям у сфері кібербезпеки.
