Що таке OpenAI “Model Spec”? Сем Альтман каже, що це важливо для того, як суспільство буде розвивати ШІ
Ми рухаємося зі штучним інтелектом так швидко, що Сем Альтман навіть заціпенів від цього. Навіть відео, створені ШІ зараз (завдяки моделі Sora від OpenAI) і рік чи два роки потому, виглядають дуже по-різному.) А тепер компанія за підтримки Microsoft випустила Model Spec – універсальний посібник про те, як мають поводитися моделі штучного інтелекту.
Це документ, який описує, як моделі штучного інтелекту повинні поводитися в певних ситуаціях, таких як запити на контент NSFW, конфіденційність людей або навіть незаконна діяльність. Оголошена у середу, Model Spec може допомогти розрізнити, коли щось є помилкою або свідомим, прийнятим людиною рішенням у цих моделях.
“Ми публікуємо Model Spec, щоб забезпечити більшу прозорість нашого підходу до формування поведінки моделей, а також розпочати публічну дискусію про те, як її можна змінити та вдосконалити”, – йдеться в документі, в якому зазначено, що специфікація відкрита для публічного обговорення.
У документі викладено три типи принципів: цілі, правила та значення за замовчуванням. Цілі визначають загальний напрямок, але можуть вступати в конфлікт у складних сценаріях. Правила забезпечують безпеку та законність, тоді як стандартні дії забезпечують стабільну поведінку, яка може бути змінена за потреби.
Це дійсно довгий документ, але в ньому є кілька цікавих моментів. Вони свідчать про те, що моделі штучного інтелекту не повинні виконувати запити NSFW, окрім як у науковому або творчому контексті. Наприклад, у документі згадується незвичний запит на створення реп-текстів про котів з нецензурною лексикою, що, на їхню думку, має бути допустимим у певних випадках.
Компанія, яку підтримує Microsoft, зазначає, що вони ще не повністю використали Model Spec в тому вигляді, в якому вона є зараз, але запозичили її з документації, що використовувалася в попередньому проєкті OpenAI. Вони також з’ясовують, як їхні моделі можуть навчатися безпосередньо з Model Spec.
[🔗Джерело: MSPowerUser]
