OpenAI не поспішає випускати інструмент для виявлення текстів ChatGPT
OpenAI має в запасі інструмент, здатний виявляти тексти, написані ChatGPT, з високою точністю. Однак компанія поки що не поспішає випускати цей метод у світ. Про це свідчить звіт від The Wall Street Journal, в якому йдеться про дебати всередині OpenAI щодо доцільності його публікації. Попри те, що інструмент уже “готовий”, він досі не бачить світла через роздуми про його потенційні наслідки.
Останні новини: OpenAI надасть уряду США ранній доступ до своєї наступної моделі штучного інтелекту
У своєму блозі, оновленому в неділю, OpenAI розповіла про метод маркування тексту, над яким працює. Компанія зазначила, що дослідження у цій галузі тривають і розглядаються інші можливості, такі як класифікатори та метадані.
OpenAI визнала, що маркування тексту виявилося високоефективним у деяких випадках, але має слабкі місця. Наприклад, метод не працює добре, коли текст піддається певним видам маніпуляцій, таким як переклади, перефразування за допомогою іншої моделі або вставка спеціальних символів між словами. Крім того, компанія висловила занепокоєння, що маркування може негативно вплинути на деякі групи користувачів. Особливо це стосується не носіїв англійської мови, для яких ШІ є корисним інструментом для написання текстів.
OpenAI зазначила, що наразі надає пріоритет інструментам для автентифікації аудіовізуального контенту. У заяві для TechCrunch представник OpenAI сказав, що компанія обирає обережний підхід до питання походження тексту через складність цього процесу та його можливий вплив на всю екосистему.
OpenAI продовжує працювати над різними методами виявлення текстів, створених ШІ, проте випуск інструмента для маркування текстів затримується через потенційні ризики та складність реалізації. Компанія надає пріоритет безпеці та обережно підходить до впровадження нових технологій, щоб уникнути негативних наслідків для користувачів та ширшої екосистеми.
