Anthropic вимкнула Fable 5 і Mythos 5 для всіх користувачів через директиву США щодо нацбезпеки
- Anthropic тимчасово відключила доступ до своїх найпотужніших моделей Fable 5 і Mythos 5, виконуючи експортну директиву уряду США, інші моделі лишаються доступними.
- Уряд вимагає заблокувати доступ до цих моделей для всіх іноземців, але через технічні та юридичні ризики компанія вимкнула їх для всіх клієнтів.
- Причиною ймовірно став виявлений «джейлбрейк» Fable 5, але Anthropic вважає, що він вузький і не дає зловмисникам можливостей, яких немає в інших публічних моделях.
Anthropic тимчасово відключила доступ усіх клієнтів до своїх найпотужніших моделей Fable 5 і Mythos 5, щоб виконати урядову директиву США, пов’язану з міркуваннями національної безпеки. Інші моделі компанії продовжують працювати без змін.
За словами Anthropic, 12 червня вона отримала від уряду США експортну директиву, яка вимагає припинити доступ до Fable 5 і Mythos 5 для всіх іноземних громадян — незалежно від того, знаходяться вони всередині країни чи за її межами, і навіть якщо це іноземні співробітники самої компанії. Щоб гарантовано не порушити вимоги, Anthropic вирішила відключити моделі одразу для всіх користувачів, а не намагатися точково фільтрувати за громадянством.
Офіційно уряд не розкрив конкретні підстави, але Anthropic вказує, що, за її розумінням, мова йде про виявлений метод «джейлбрейку» Fable 5, який потенційно дозволяє обійти частину систем захисту. Fable 5 — публічна, але обмежена версія флагманської кібербезпекової моделі Mythos 5, доступної лише партнерам у рамках Project Glasswing; за власними тестами компанії Fable демонструє вищі можливості, ніж попередні моделі, й зокрема здатна вирішувати складні завдання, з якими Claude не впорався.
У компанії нагадали, що для Fable 5 з самого початку ввели жорсткі обмеження, щоб зменшити ризик використання моделі для хакерських задач: модерація відсікає запити, пов’язані з кібербезпекою, а внутрішні та зовнішні тести не виявили «універсального джейлбрейку», який би повністю зламав захист. Anthropic визнає, що жоден розробник не може гарантувати абсолютну незламність, і тому робила ставку на те, щоб будь-які можливі джейлбрейки були або вузькими, або дуже дорогими в реалізації, у поєднанні з моніторингом для швидкого виявлення й блокування успішних атак.
Компанія заявила, що надала урядовцям свої оцінки згаданого вузького джейлбрейку й не вважає, що виявлена вразливість дає зловмисникам можливості, яких уже немає в інших публічних моделях. В офіційній позиції Anthropic підкреслює, що загалом підтримує право держави блокувати небезпечні розгортання ШІ, але тільки в рамках прозорої, передбачуваної та заснованої на технічних фактах законодавчої процедури; на її думку, нинішня директива цим принципам не відповідає.
