Російська дезінформація “заразила” всі популярні ШІ-чатботи: дослідження виявило масове маніпулювання
Російська дезінформаційна мережа активно впливає на штучний інтелект, поширюючи фейкові новини через ШІ-чатботи. Це підтвердило нове дослідження NewsGuard, на яке посилається Axios. Згідно зі звітом, прокремлівські інформаційні кампанії спотворюють відповіді ШІ, маніпулюючи мільйонами користувачів у всьому світі.
Дослідники виявили, що головну роль у дезінформації відіграє мережа Pravda, яка не лише поширює пропаганду, а й намагається впливати на алгоритми штучного інтелекту. Її стратегія базується на заповненні інтернету величезною кількістю неправдивої інформації, яку потім використовують великі мовні моделі (LLM) для навчання.
За даними NewsGuard, у 2023 році Pravda опублікувала понад 3,6 мільйона статей, що потрапили до баз даних чатботів від Microsoft, Google, OpenAI, xAI, Meta, Anthropic, Mistral, Perplexity та You.com. Мережа поширила щонайменше 207 доведених фейків, більшість з яких стосувалися України. Третина відповідей популярних ШІ-чатботів містила аргументи, спочатку опубліковані мережею Pravda, що демонструє вразливість моделей до маніпуляцій.
Pravda була створена у квітні 2022 року, після початку повномасштабного вторгнення росії в Україну. Відтоді вона охопила 49 країн і функціонує десятками мов. Згідно з дослідженням, до неї входять щонайменше 150 вебсайтів, серед яких 40 мають доменні імена, що натякають на українське походження. Деякі ресурси спеціалізуються на певних темах, тоді як інші намагаються охопити ширшу аудиторію.
Цікаво, що Pravda не створює власного контенту, а компілює матеріали з російських державних ЗМІ та прокремлівських блогерів, посилюючи їхній вплив.
Звіти про активну участь ШІ у поширенні дезінформації викликають занепокоєння серед експертів. Генерований штучним інтелектом контент стає все більш популярним, а зловмисники можуть цілеспрямовано “навчати” моделі, наповнюючи їх фейками та пропагандою.
У січні 2023 року Джон Марк Дуґан, американець, який утік до москви та працює на російську пропаганду, заявив на урядовій конференції: “Якщо просувати російські наративи з російської точки зору, ми можемо фактично змінити світовий ШІ”.
Попри зусилля США та міжнародної спільноти щодо протидії російським кібератакам, маніпуляції з ШІ можуть мати серйозні наслідки. Чатботи вже стають основним джерелом інформації для багатьох користувачів, що відкриває можливості для масового впливу на громадську думку, політичні процеси та міжнародні відносини.
