ChatGPT “вигадав” функцію для Soundslice, і засновник втілив її в життя
- Адріан Головатий, засновник Soundslice, виявив, що ChatGPT “вигадував” функцію для його застосунку, переконуючи користувачів, що вони можуть завантажувати ASCII-табулатури для перетворення на музику.
- Soundslice — це музично-освітній застосунок, відомий синхронізованим відеоплеєром та сканером нот.
- Хоча система сканування не підтримувала ASCII-табулатури, ChatGPT масово “галюцинував” про цю можливість, що призвело до репутаційних ризиків для Soundslice.
- Головатий вирішив вбудувати цю функцію у сканер, незважаючи на сумніви щодо розробки у відповідь на дезінформацію.
- Це може бути першим задокументованим випадком, коли компанії довелося створювати функцію через повторювані ШІ-галюцинації.
- Інцидент порівнюють з надмірно завзятим продавцем, який обіцяє неіснуючі можливості, змушуючи розробників їх впроваджувати.
На початку липня Адріан Головатий, засновник музично-освітньої платформи Soundslice, розгадав таємницю, яка не давала йому спокою кілька тижнів. Він помітив, що на сайт постійно завантажуються дивні зображення, які були скриншотами сесій ChatGPT. Розгадавши загадку, він зрозумів, що ChatGPT став одним з найбільших “піарників” його компанії, але водночас вводив людей в оману щодо можливостей його застосунку. Про це пише TechCrunch.
Адріан Головатий, відомий як один із творців відкритого проєкту Django (популярного фреймворку для веброзробки на Python), у 2012 році запустив Soundslice, який, за його словами, “гордо працює на самофінансуванні”. Нині він зосереджений на своїй музичній кар’єрі як артист та засновник.
Soundslice — це застосунок для навчання музики, яким користуються як студенти, так і викладачі. Адріан Головатий відомий своїм відеоплеєром, синхронізованим з музичними нотаціями, які направляють користувачів щодо правильного відтворення нот. Застосунок також пропонує функцію “сканер нот”, що дозволяє завантажувати зображення паперових нот, які за допомогою ШІ автоматично перетворюються на інтерактивний лист з нотаціями. Головатий ретельно відстежує журнали помилок цієї функції, щоб виявляти проблеми та планувати покращення. Саме там він і почав помічати завантажені сесії ChatGPT.
Ці завантаження створювали багато записів у журналі помилок. Замість зображень нот, це були зображення слів та блоків символів, відомих як ASCII-табулатура — базова текстова система, що використовується для гітарних нотацій за допомогою звичайної клавіатури. Обсяг цих скриншотів сесій ChatGPT не був настільки великим, щоб компанія несла значні витрати на їх зберігання або щоб це перевантажувало пропускну здатність застосунку, зазначив Головатий. Він був спантеличений цією ситуацією, про що написав у своєму блозі.
“Наша система сканування не призначалася для підтримки такого стилю нотації. Чому ж тоді нас бомбардували такою кількістю скриншотів ASCII-табулатур ChatGPT? Я був здивований протягом кількох тижнів — поки сам не погрався з ChatGPT”, — написав Головатий.
Саме тоді він виявив, що ChatGPT переконував людей, нібито вони можуть прослухати цю музику, створивши обліковий запис Soundslice та завантаживши зображення чат-сесії. Проте, насправді, цього не можна було зробити. Завантаження таких зображень не перетворювало ASCII-табулатуру на звукові ноти.
Головатий зіткнувся з новою проблемою.
“Основні витрати були репутаційними: нові користувачі Soundslice мали хибні очікування. Їм впевнено сказали, що ми зробимо те, чого насправді не робимо”, — розповів він.
Адріан Головатий та його команда обговорили варіанти: або розмістити застереження по всьому сайту — “Ні, ми не можемо перетворити сесію ChatGPT на музику, яку можна прослухати” — або ж вбудувати цю функцію у сканер, хоча раніше він ніколи не розглядав підтримку цієї незвичної системи музичної нотації.
Головатий обрав останній варіант — розробити цю функцію.
“Мої почуття з цього приводу суперечливі. Я радий додати інструмент, який допомагає людям. Але я відчуваю, що нас дивним чином змусили. Чи повинні ми дійсно розробляти функції у відповідь на дезінформацію?” — написав він.
Розробник також задумався, чи це перший задокументований випадок, коли компанії довелося розробляти функцію через те, що ChatGPT постійно повторював багатьом людям свою галюцинацію про неї.
Колеги-програмісти на Hacker News запропонували цікавий погляд на це: дехто з них зауважив, що це нічим не відрізняється від надмірно завзятого продавця-людини, який обіцяє майбутнім клієнтам “золоті гори”, а потім змушує розробників впроваджувати нові функції.
“Я думаю, це дуже влучне та кумедне порівняння!” — погодився Головатий.
