Технологія Whisper від OpenAI може спотворювати медичні записи — що варто знати
Сьогодні використання штучного інтелекту стає все більш поширеним у медицині, але не всі технології є досконалими. Наприклад, інструмент транскрипції Whisper від OpenAI, як з’ясували дослідники, здатний “галюцинувати” — створювати вигаданий текст, що включає неіснуючі ліки, расистські висловлювання та навіть насильницькі ремарки.
Як повідомляє Engadget, ці проблеми набувають особливої серйозності, враховуючи, що Whisper інтегровано в хмарні платформи Oracle та Microsoft, а також в деякі версії ChatGPT.
Згідно з дослідженням, проведеним Університетом Мічигану, вісім з десяти аудіозаписів громадських засідань були перекручені Whisper, додаючи вигаданий текст. Інші вчені, проаналізувавши понад 13 тисяч аудіозаписів, виявили 187 випадків галюцинацій. А інженер машинного навчання зіткнувся з цією проблемою майже в половині зі 100 годин транскрипцій.
Інциденти продовжуються: один із розробників помітив вигадки майже у всіх із 26 тисяч транскрипцій, зроблених Whisper від OpenAI.
Професори Алісон Кенеке з Корнелльського університету та Мона Слоан з Університету Вірджинії вивчали аудіокліпи з дослідницького архіву TalkBank і виявили, що близько 40% галюцинацій потенційно можуть бути неправильно інтерпретовані. У одному з випадків Whisper вигадало, що троє обговорюваних людей були чорношкірими. В іншому прикладі фраза “Він, хлопець, збирався, я точно не знаю, взяти парасольку” була перекручена на “Він взяв великий шматок хреста, крихітний, маленький шматочок… Я впевнений, у нього не було ножа терору, тож він убив кілька людей.”
Особливо серйозними є наслідки в медичній сфері. Компанія Nabla використовує Whisper від OpenAI для транскрипції медичних записів, яку вже використовують понад 30 тисяч лікарів і 40 медичних систем. Проте, як заявляє головний технолог компанії Мартін Резон, компанія видаляє всі аудіозаписи для “забезпечення безпеки даних”, що унеможливлює перевірку точності транскрипцій. Хоча Nabla стверджує, що лікарі повинні швидко редагувати й затверджувати транскрипції, ця система може бути далеко не ідеальною.
