OpenAI закрила іранську кампанію впливу, яка використовувала ChatGPT для створення фейкових новин
У п’ятницю компанія OpenAI заявила, що припинила іранську кампанію впливу, яка використовувала ChatGPT для створення фейкових новин і соціальних постів, спрямованих на американців. Компанія заявила, що виявила і заблокувала акаунти, які генерували контент для п’яти вебсайтів (англійською та іспанською мовами), що видавали себе за новинні агентства, поширюючи «поляризаційні повідомлення» з таких питань, як президентська кампанія в США, права ЛГБТК+ і війна в Газі. Про це пише Engadget.
Останні новини: Microsoft та Palantir співпрацюють для продажу штучного інтелекту державним установам
Операція отримала назву «Шторм-2035» і є частиною серії кампаній впливу, які Microsoft минулого тижня визнала «пов’язаними з іранським урядом». Окрім фейкових новин, до операції було залучено «десяток акаунтів на X і один в Instagram», пов’язаних з операцією. OpenAI зазначає, що операція, схоже, не набула значного розголосу.
«Більшість постів у соціальних мережах, які ми ідентифікували, отримали мало лайків, поширень або коментарів», – написали в компанії.
Крім того, OpenAI заявила, що за шкалою прориву Інституту Брукінгса, яка оцінює загрози, операція отримала лише оцінку категорії 2 (за шкалою від одного до шести). Це означає, що вона показала «активність на багатьох платформах, але немає жодних доказів того, що реальні люди підхопили або широко розповсюдили цей контент».
Читайте також: Новий генератор зображень xAI від X здатний створити будь-що: від Тейлор Свіфт у білизні до Маска та Трампа в образі терористів
OpenAI описала цю операцію як створення фейкових новин та загалом контенту для фальшивих консервативних і прогресивних новинних агентств, націлених на протилежні точки зору. Bloomberg заявив, що цей контент припускав, що Дональд Трамп «зазнає цензури в соціальних мережах і готовий оголосити себе королем США». Інше видання представило вибір Камали Гарріс Тіма Вальца в якості свого партнера на виборах як «прорахований вибір заради єдності».
OpenAI додала, що в рамках операції також створювався контент про присутність Ізраїлю на Олімпійських іграх і (меншою мірою) про політику Венесуели, права латиноамериканських громад і незалежність Шотландії. Крім того, кампанія приправляла важкі матеріали коментарями про моду і красу, «можливо, для того, щоб виглядати більш автентично або в спробі створити прихильників».
«Операція намагалася зіграти на обидві сторони, але не схоже, що її підтримала жодна з них», – сказав агентству Bloomberg слідчий з відділу розвідки та розслідувань OpenAI Бен Німмо (Ben Nimmo).
Викриття операції фейкового впливу відбулося після того, як раніше цього тижня стало відомо, що іранські хакери атакували кампанії як Гарріс, так і Трампа. ФБР заявило, що неофіційний радник Трампа Роджер Стоун став жертвою фішингових електронних листів. Іранські хакери заволоділи його акаунтом і розсилали повідомлення з фішинговими посиланнями іншим. ФБР не знайшло жодних доказів того, що хтось у кампанії Гарріс потрапив на цю схему.
