Anthropic пропонує глобально сповільнити розробку передового ШІ
- Anthropic закликає до глобального уповільнення або паузи в розробці найпотужніших моделей ШІ через ризики втрати контролю.
- Компанія пропонує узгоджений механізм паузи між кількома провідними лабораторіями з взаємною верифікацією зупинки робіт.
- Критики вбачають у застереженнях Anthropic елемент маркетингу, зокрема на прикладі обмеженого запуску моделі кібербезпеки Mythos.
- Ініціатива спирається на роботу Anthropic Institute, який досліджує умови для «правдоподібної» глобальної паузи та ризики передових систем.
- Anthropic планує обговорювати пропозицію з політиками, дослідниками та іншими AI-компаніями й оприлюднювати результати цих дискусій.
Anthropic закликала до глобального уповільнення розробки передових систем штучного інтелекту, попереджаючи про ризики появи моделей, здатних проєктувати власних наступників. У компанії вважають, що поточні темпи розвитку ШІ ведуть до сценарію, коли системи зможуть самостійно створювати нові покоління моделей раніше, ніж до цього будуть готові суспільні інститути та механізми безпеки.
У блозі Anthropic зазначає, що ШІ, здатний «будувати себе сам», може принести значну користь у сферах науки та охорони здоров’я, але водночас підвищує ризики втрати людського контролю над такими системами. Як відповідь на ці виклики компанія пропонує глобальне уповільнення або тимчасову паузу в розвитку найпотужніших моделей, щоб дослідження безпеки та регуляторні структури встигали за технологіями.
На тлі цього Anthropic залишається одним із лідерів у перегонах ШІ й, на відміну від багатьох конкурентів, готується до першого прибуткового кварталу. Компанія подала документи до SEC для виходу на біржу, ймовірно до кінця року. Критики, на яких посилається The Wall Street Journal, вважають, що публічні попередження Anthropic можуть бути елементом маркетингової стратегії — спробою позиціонувати себе як «найвідповідальнішу» компанію або підкреслити виняткову потужність власних продуктів.
Окремо критикують обмежений запуск кібербезпекової моделі Mythos. Anthropic заявила, що надає доступ до Mythos лише обмеженому колу партнерів через ризики зловживання її здатністю швидко знаходити вразливості. Частина спостерігачів вважає це або спробою нагнітання ажіотажу, або прикриттям для фокусування продажів на найбільших корпоративних клієнтах.
Пропозиція щодо глобального уповільнення базується на висновках Anthropic Institute — дослідницького підрозділу, створеного в березні. Завдання інституту — публічно інформувати про виклики, що виникають у міру розвитку більш потужних систем, і досліджувати, які технічні та інституційні механізми потрібні для реалізації «правдоподібної» паузи або уповільнення.
Anthropic наголошує, що будь-яке узгоджене уповільнення потребує реальних механізмів верифікації. Без них окремі компанії могли б продовжувати розробку в секреті й отримати перевагу над тими, хто дотримується паузи. На думку компанії, «змістовне» уповільнення вимагало б участі кількох добре профінансованих лабораторій, які працюють на передньому краї технологій у різних країнах, готових одночасно зупинитися на однакових умовах і мати змогу перевіряти дії одна одної.
Anthropic визнає, що така пауза можлива лише за умови глобальної координації гравців ринку ШІ. Як аналогію наводять договори про ядерну зброю, які показують, що подібні домовленості реалістичні, хоча їхнє формування займало десятиліття. Водночас компанія підкреслює, що ШІ розвивається набагато швидше, й анонсує серію зустрічей із політиками, дослідниками та іншими AI-компаніями. Результати цих обговорень планують оприлюднити в майбутньому.
