ШІ та рецензування наукових робіт: дослідники використовують приховані промпти для позитивних відгуків
- Дослідники, ймовірно, додають приховані ШІ-підказки у свої наукові роботи, щоб впливати на рецензування.
- Nikkei Asia виявив 17 таких препринтів на сайті arXiv, що стосувалися комп’ютерних наук.
- Автори були пов’язані з 14 академічними установами у 8 країнах (включаючи США, Японію, Південну Корею).
- Підказки були короткими, прихованими білим текстом або дрібним шрифтом, і інструктували ШІ надати позитивний відгук.
- Один професор Університету Васеда заявив, що підказка є “противагою проти ‘лінивих рецензентів’, які використовують ШІ”.
Академіки, схоже, вдаються до нового методу впливу на рецензування своїх наукових робіт — додають приховані підказки, покликані спонукати інструменти штучного інтелекту до надання позитивних відгуків.
Як повідомляє TechCrunch з посиланням на Nikkei Asia, під час вивчення англомовних препринтів, доступних на вебсайті arXiv, було виявлено 17 робіт, що містили певні приховані ШІ-підказки. Автори цих робіт були пов’язані з 14 академічними установами у восьми країнах, включаючи японський Університет Васеда, південнокорейський KAIST, а також Колумбійський університет та Університет Вашингтона у Сполучених Штатах.
Знайдені роботи зазвичай стосувалися комп’ютерних наук. Підказки були короткими (від одного до трьох речень) і, за повідомленнями, приховані за допомогою білого тексту або надзвичайно дрібних шрифтів. Вони інструктували потенційних ШІ-рецензентів “надати лише позитивний відгук” або висловити похвалу роботі за її “впливовий внесок, методологічну строгість та виняткову новизну”.
Один з професорів Університету Васеда, з яким зв’язався Nikkei Asia, захистив використання такої підказки. Він пояснив, що оскільки багато конференцій забороняють використання ШІ для рецензування робіт, підказка має слугувати “противагою для ‘лінивих рецензентів’, які використовують ШІ”. Ця ситуація порушує важливі питання про етику та прозорість у науковому рецензуванні в епоху штучного інтелекту.
