OpenAI та Anthropic поділяться своїми моделями з Інститутом безпеки штучного інтелекту США
OpenAI та Anthropic досягли домовленості щодо співпраці з Інститутом безпеки штучного інтелекту США. Компанії погодились ділитися своїми моделями ШІ — як до, так і після їхнього випуску — з метою підвищення безпеки та покращення моделей. Ця ініціатива стала можливою завдяки виконавчому указу президента Джо Байдена, який заснував інститут у 2023 році, повідомляє Engadget.
Читайте також: ChatGPT досягає 200 мільйонів активних користувачів на тиждень
Керівництво Інституту безпеки ШІ США заявило, що ця угода є важливим кроком до більш безпечного розвитку штучного інтелекту. Компанії надаватимуть доступ до своїх основних нових моделей ще до їхнього публічного випуску, що дозволить проводити оцінку ризиків та безпеки.
Директорка інституту, Елізабет Келлі, зазначила:
“Безпека є основою для проривних технологічних інновацій. Ці угоди — лише початок, але вони є важливим етапом у нашій роботі з відповідального керівництва майбутнім ШІ”.
Також цікаво: Вебскрейпінг-бот Anthropic штурмував iFixit мільйон разів на день
Інститут безпеки ШІ США входить до складу Національного інституту стандартів і технологій (NIST) та займається створенням рекомендацій, тестів та найкращих практик для оцінки потенційно небезпечних систем ШІ. Віцепрезидентка Камала Гарріс підкреслила важливість цієї роботи, зазначивши, що штучний інтелект має потенціал як для великих досягнень, так і для створення серйозних загроз.
Ця співпраця стала можливою завдяки Меморандуму про взаєморозуміння, який, хоча і є формальним, не має обов’язкової сили. Інститут отримає доступ до моделей обох компаній для проведення досліджень та оцінки їхньої безпеки.
Поки на федеральному рівні угода має рекомендаційний характер, у Каліфорнії приймаються жорсткіші заходи. Законопроєкт SB 10147, ухвалений Асамблеєю штату, вимагає проведення обов’язкового тестування безпеки для моделей ШІ, на розробку яких було витрачено понад 100 мільйонів доларів. Також закон передбачає наявність механізму аварійного вимкнення моделей у разі загрози.
Цей законопроєкт ще потребує остаточного схвалення губернатора Гевіна Ньюсома до 30 вересня. У разі його підписання він надасть право генпрокурору Каліфорнії подавати до суду на розробників ШІ, які не дотримуються встановлених правил, особливо в умовах загрози.
