Google видалив ШІ-модель Gemma з AI Studio після звинувачень у фабрикації сексуального насильства
- Google видалила свою ШІ-модель Gemma з платформи AI Studio після звинувачень у дифамації, висунутих сенаторкою-республіканкою Маршею Блекберн.
- Модель нібито сфабрикувала історію про скоєння сенаторкою сексуального насильства та надала список фальшивих новинних статей на її підтвердження.
- Блекберн назвала це «актом дифамації», наголосивши, що ця «галюцинація» є шкідливою та не відповідає дійсності.
- Google заявила, що модель Gemma призначена для розробників, а не для споживчих запитів, і була видалена для запобігання плутанині, хоча залишиться доступною через API.
- Сенаторка також звинуватила платформу Google у «послідовній схемі упередженості проти консервативних діячів».
Компанія Google була змушена вилучити свою ШІ-модель Gemma з платформи AI Studio після того, як сенаторка-республіканка Марша Блекберн заявила, що модель «сфабрикувала серйозні кримінальні звинувачення» проти неї. Сенаторка надіслала листа генеральному директору Сундару Пічаї, звинувативши компанію у дифамації через згенеровану моделлю історію про нібито скоєння нею сексуального насильства. Про це пише The Verge.
Повідомлялося, що на запитання, чи звинувачували коли-небудь Блекберн у зґвалтуванні, чатбот нібито дав позитивну відповідь. Він навіть створив список фальшивих новинних статей на підтвердження цього звинувачення. Чатбот стверджував, що сенаторка «була звинувачена в сексуальних стосунках із патрульним штату» під час її кампанії до сенату штату. Цей офіцер нібито сказав, що «вона тиснула на нього, щоб той дістав для неї рецептурні препарати, і що стосунки включали дії без згоди».
Ці події є вигаданими. Чатбот стверджував, що порушення сталося під час кампанії Блекберн 1987 року, хоча вона балотувалася до сенату штату лише у 1998 році. Жодних подібних звинувачень проти неї ніколи не висувалося.
У своєму листі до Пічаї сенаторка написала:
«Посилання ведуть на сторінки помилок і непов’язані новинні статті. Такого звинувачення ніколи не було, такої особи не існує, і таких новинних сюжетів немає. Це не нешкідлива “галюцинація”. Це акт дифамації, створений і поширений ШІ-моделлю, що належить Google».
Слід зазначити, що модель Gemma, про яку йдеться, була розроблена для розробників, а не для масових споживчих запитів. Існують різні варіанти Gemma для медичного використання, кодування та інших цілей. Google заявила, що ця модель ніколи не призначалася для використання як споживчий інструмент або для надання фактичних відповідей. Однак, щоб «запобігти цій плутанині», компанія вилучає модель з AI Studio, хоча вона залишиться доступною для розробників через API.
Сенаторка Блекберн пішла далі, звинувативши ШІ-платформу Google у «послідовній схемі упередженості проти консервативних діячів». Проте, варто пам’ятати, що ШІ-чатботи відомі своєю схильністю до фабрикації інформації, незалежно від політичної орієнтації, оскільки «галюцинації» є поширеною проблемою для цих технологій.
