Microsoft представила стандарт ACS для контролю AI-агентів
- Microsoft запустила відкритий стандарт ACS для керування AI-агентами.
- Рішення дозволяє задавати політики дій і обмежень для агентів.
- Контроль застосовується на різних етапах виконання завдань.
- ACS замінює розрізнені підходи до безпеки та аудиту.
- Стандарт доступний як SDK із підтримкою популярних AI-фреймворків.
Microsoft представила відкритий стандарт Agent Control Specification (ACS), призначений для керування поведінкою AI-агентів у різних середовищах. Рішення орієнтоване на розробників і команди безпеки, які впроваджують агентні системи в застосунки, робочі процеси та продукти, повідомляє TechCrunch.
ACS дозволяє задавати політики, що визначають, які дії агент може виконувати, які заборонені, коли потрібне підтвердження людини та які дані мають фіксуватися для подальшого аудиту. Ці правила застосовуються на різних етапах роботи агента, щоб контролювати його поведінку під час виконання завдань.
Стандарт передбачає перевірки в кількох точках процесу, зокрема перед отриманням вхідних даних, перед викликом інструментів, після отримання результатів і перед формуванням відповіді користувачу. Політики можуть дозволяти або блокувати дії, приховувати чутливу інформацію або вимагати втручання людини.
Рішення покликане замінити фрагментовані підходи, які зараз використовують розробники, зокрема системні підказки, власні перевірки в коді та класифікатори для фільтрації даних. Такі методи ускладнюють аудит і повторне використання в різних системах.
ACS також підтримує використання класифікаторів для аналізу вхідних і вихідних даних, а також інтеграцію моделей для оцінки дотримання політик. Це дозволяє перевіряти виклики інструментів, вибір дій і коректність результатів.
Політики оформлюються у вигляді окремих файлів, які можна використовувати разом із агентами в різних середовищах, забезпечуючи єдину модель контролю. ACS доступний у вигляді SDK із підтримкою популярних інструментів, зокрема LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI та інших.
