Anthropic пом’якшує політику безпеки Claude на тлі тиску з боку Пентагону
- Anthropic скасувала ключове зобов’язання зупиняти навчання моделей, якщо їхня безпека не доведена заздалегідь.
- Рішення збіглося з ультиматумом Пентагону щодо надання повного доступу до Claude до кінця тижня під загрозою санкцій.
- Замість жорстких «червоних ліній» впроваджено гнучкі «Звіти про ризики» та «Дорожні карти безпеки».
- Компанія пояснює зміни конкуренцією з OpenAI та небажанням робити «односторонні кроки» у сфері безпеки.
- Пентагон розглядає Claude як критичний інструмент і погрожує застосувати Закон про оборонне виробництво.
Компанія Anthropic опинилася в центрі гучного скандалу: одночасно з новинами про тиск з боку Пентагону розробник ШІ Claude оголосив про суттєве пом’якшення своєї політики безпеки (Responsible Scaling Policy — RSP). Про це пише Engadget.
Anthropic офіційно відмовилася від свого ключового зобов’язання — зупиняти навчання нових моделей, якщо заздалегідь не гарантовано дотримання конкретних параметрів безпеки. Раніше ці «червоні лінії» були головною маркетинговою перевагою компанії, яка позиціювала себе як етичну альтернативу конкурентам.
Тепер замість жорстких обмежень компанія впроваджує:
- «Risk Reports» (Звіти про ризики): регулярні публікації про потенційні загрози.
- «Frontier Safety Roadmaps»: плани безпеки, які будуть коригуватися в процесі розробки.
Головний науковий співробітник Anthropic Джаред Каплан пояснив це рішення небажанням робити «односторонні кроки», поки конкуренти (зокрема OpenAI) стрімко рухаються вперед. На тлі нової оцінки вартості компанії у 380 мільярдів доларів критики вбачають у цьому поступову відмову від етики на користь прибутку.
За даними видання Axios, міністр війни США Піт Хегсет висунув ультиматум гендиректору Anthropic Даріо Амодеї: компанія має до п’ятниці надати військовим необмежений доступ до своїх моделей або зіткнутися з санкціями.
Пентагон розглядає Claude як критично важливий інструмент для національної безпеки (зокрема, модель нібито вже використовували під час операцій у Венесуелі). Серед можливих санкцій:
- Застосування Закону про оборонне виробництво, що змушує приватні компанії пріоритетно виконувати державні контракти.
- Визнання Anthropic «ризиком для ланцюга постачання», що фактично заборонить іншим оборонним підрядникам використовувати Claude.
Anthropic намагається знайти компроміс, пропонуючи адаптувати правила використання для військових, але наполягає на забороні використання ШІ для масового стеження за американцями або в автономній зброї, що працює без участі людини.
Кріс Пейнтер, директор некомерційної організації METR, вважає зміну політики Anthropic тривожним сигналом. За його словами, коли безпека стає «сірою зоною», компанія може стати жертвою «ефекту вареної жаби» — серії дрібних поступок, які зрештою призведуть до катастрофічних наслідків, від яких Anthropic колись обіцяла захистити світ.
