CEO Amazon попередив уряд США про ризики моделей Anthropic перед запровадженням обмежень
- CEO Amazon Енді Джессі повідомив уряд США, що Claude Fable 5 дозволив дослідникам отримати дані, придатні для кібератак, попри захист моделі.
- Після цих сигналів адміністрація Дональда Трампа запровадила експортні обмеження на Fable 5 і Mythos 5, а Anthropic вимкнула їх для всіх користувачів.
- Amazon підтвердила, що уряди консультуються з компанією щодо безпекових ризиків, та заявила, що AWS теж постраждав від відключення моделей.
- Колишній радник Білого дому Девід Сакс стверджує, що уряд вимагав виправити джейлбрейк або зняти модель із розгортання, але Anthropic відмовилася.
Керівник Amazon Енді Джессі, ймовірно, відіграв ключову роль у тому, що уряд США запровадив жорсткі обмеження на доступ до найпотужніших моделей Anthropic — Fable 5 і Mythos 5.
За даними The Wall Street Journal, Джессі під час зустрічі з міністром фінансів США Скоттом Бессентом та іншими посадовцями розповів, що дослідники Amazon змогли за допомогою Claude Fable 5 отримати інформацію, яку можна використати для кібератак, хоча цей тип даних мав бути заблокований системою безпеки моделі. Після цих розмов адміністрація Дональда Трампа запровадила експортні обмеження на моделі Fable 5 і Mythos 5, а Anthropic у відповідь відключила їх для всіх користувачів у світі.
Представник Amazon у коментарі заявив, що уряди регулярно звертаються до компанії за консультаціями щодо потенційних ризиків безпеки, але деталі таких обговорень не розкриваються. Водночас він підтвердив, що хмарний сервіс AWS також постраждав від раптового відключення моделей Anthropic, оскільки Fable 5 і Mythos 5 були доступні клієнтам через платформу Amazon.
Про роль Amazon у загостренні ситуації також повідомили The Information і Reuters, наголосивши, що компанія є одним із головних інвесторів Anthropic і раніше вклала в неї мільярди доларів, а також зобов’язалася на десятки мільярдів витрат на хмарні послуги.
Колишній «цар ШІ» Білого дому Девід Сакс, який нині є співголовою Президентської ради з науки і технологій, у соцмережах описав події з боку уряду. За його словами, «дуже надійний партнер, якому довіряють і Anthropic, і уряд США», передав офіційним особам джейлбрейк моделі Fable 5. Адміністрація, стверджує Сакс, попросила CEO Anthropic Даріо Амодея або усунути вразливість, або зняти модель з розгортання, але той відмовився, після чого й було ухвалено рішення про експортні обмеження.
У власному блозі Anthropic зазначила, що можливості, які викликають занепокоєння уряду, вже доступні в інших публічних моделях, і підкреслила, що запроваджені обмеження не є, на її думку, технічно обґрунтованою підставою для фактичного «відкликання» комерційної моделі.
