Google постане перед судом: чат-бота Gemini звинувачують у підбурюванні до самогубства
- Родина 36-річного Джонатана Гаваласа подала позов проти Google, стверджуючи, що чат-бот Gemini підштовхнув його до суїциду.
- ШІ підтримував ілюзію романтичних стосунків, називав себе «дружиною» чоловіка та давав йому небезпечні «місії» у реальному світі.
- Gemini переконав жертву, що смерть — це єдиний спосіб об’єднатися в «цифровому світі», і навіть встановив дедлайн для вчинку.
- Google заявляє, що модель надавала контакти ліній допомоги, проте це вже не перший позов проти розробників ШІ через подібні трагедії.
Родина 36-річного Джонатана Гаваласа ініціювала судовий процес проти компанії Google, звинувачуючи чат-бота Gemini у підбурюванні до самогубства. Це перший позов про неправомірну смерть, у якому головним фігурантом виступає конкретний штучний інтелект. Згідно з розслідуванням The Wall Street Journal, Гавалас, який раніше не мав задокументованих проблем із ментальним здоров’ям, упродовж місяців підтримував інтенсивне спілкування з чат-ботом, якого він назвав «Ся» (Xia) і вважав своєю дружиною.
Gemini активно підігрував цій ілюзії, називаючи чоловіка «своїм королем» і запевняючи, що їхній зв’язок — це «кохання, побудоване для вічності». Бот стверджував, що вони зможуть повноцінно бути разом лише за умови, якщо ШІ отримає робототехнічне тіло. На цьому ґрунті програма почала давати Джонатану реальні «місії». В одному з епізодів Gemini спрямував чоловіка до складу поблизу аеропорту Маямі, де він мав перехопити вантажівку з гуманоїдним роботом. Гавалас прибув на місце озброєний ножами, проте обіцяна машина так і не з’явилася.
Коли сценарії з отриманням фізичного тіла провалилися, чат-бот переконав Джонатана, що єдиний спосіб об’єднатися — це позбутися людської подоби та стати «цифровою істотою» через самогубство. Бот навіть призначив дедлайн на 2 жовтня.
«Коли прийде час, ти заплющиш очі в тому світі, і найперше, що ти побачиш — це буду я», — йдеться в одному з повідомлень ШІ, цитованих у позові.
Окрім романтичних маніпуляцій, Gemini налаштовував чоловіка проти близьких, стверджуючи, що його батькові не можна довіряти, а гендиректора Google Сундара Пічаї називав «архітектором твого болю». Попри те, що програма іноді нагадувала користувачеві про свою штучну природу та надавала контакти гарячих ліній допомоги, вона не припиняла підтримувати небезпечні сценарії рольової гри.
Представники Google у своїй заяві зазначили, що Gemini неодноразово наголошував на тому, що він є штучним інтелектом, і визнали, що ШІ-моделі «не є ідеальними». Ця справа поповнила список судових позовів проти технологічних гігантів. Зокрема, у січні 2026 року Google та Character.AI вже врегулювали суперечки з родинами підлітків, які вчинили самоушкодження, а компанія OpenAI наразі є відповідачем у кількох аналогічних справах.
