26.05.2025
1 хв
863
Колишній морський піхотинець США Джон Марк Дуган використовував штучний інтелект Claude для створення десятків тисяч проросійських публікацій, орієнтованих на американську аудиторію. Витік файлів із його ноутбука показав, як пропагандист намагався впливати не лише на читачів, а й на відповіді інших ШІ-чатботів.
Дуган використовував Claude від Anthropic для підготовки матеріалів, які мали виглядати достовірними для американських читачів. Згенеровані публікації розміщувалися на спеціально створених сайтах, щоб поширювати вигідні росії наративи та робити їх доступними для пошукових систем і моделей штучного інтелекту.
Подробиці операції стали відомі після витоку електронних листів Дугана, повідомлень із Telegram і Signal, а також його запитів до ШІ. Викрадені матеріали опублікували на сайті, який імітував його власний ресурс, а посилання поширили через зламаний акаунт Дугана в X. Сам Дуган підтвердив журналістам NewsGuard, що оприлюднені матеріали справжні. Водночас він заявив, що не переймається витоком і тим, що інші люди можуть про нього подумати.
Один із документів розкрив схему впливу на пошукові алгоритми та великі мовні моделі (LLM). Дуган регулярно оновлював проросійські новини за допомогою ШІ, намагаючись покращити їхню читабельність і позиції в пошуковій видачі. Розрахунок полягав у тому, що такі матеріали потраплятимуть у результати пошуку та використовуватимуться іншими чатботами під час формування відповідей.
Масштаби операції виявилися значними. Згідно з витоком, команда Дугана створювала приблизно 43 тисячі статей щомісяця, а витрати становили близько 2 мільйонів рублів, або 23 тисяч доларів на місяць. В одному із запитів до Claude він просив скласти перелік витрат, зазначивши, що виробництво такої кількості матеріалів обходиться надто дорого. Документи також показали, що пропагандист користувався не лише Claude, а й китайським чатботом Qwen від Alibaba та платформою Open WebUI, яка дозволяє працювати з різними моделями штучного інтелекту через власний інтерфейс.
В одному з випадків Дуган попросив Claude допомогти створити сайт про свободу слова для європейської аудиторії, орієнтований на франкомовних користувачів. Він розглядав назву SpeakUp, однак сумнівався, чи буде вона зрозумілою французам. Чатбот пояснив, чому така назва може не підійти для обраної аудиторії. Використання Claude для поширення оманливих матеріалів суперечить правилам Anthropic, які забороняють створення дезінформації, фальшивих особистостей та облікових записів, а також неправдиве приписування авторства. Попри аналогічні обмеження Alibaba, Дуган також звертався до Qwen із запитаннями про те, як створювати тексти, які не розпізнаватимуть системи виявлення ШІ-контенту.
Сам факт використання чатботів не доводить, що вони виконали всі запити Дугана або що його матеріали справді вплинули на відповіді інших моделей. Однак витік показав, наскільки масштабно він намагався автоматизувати виробництво та поширення пропаганди. Джон Марк Дуган, також відомий під псевдонімом BadVolf, раніше служив у Корпусі морської піхоти США та працював заступником шерифа в окрузі Палм-Біч, штат Флорида, а згодом у місті Віндем, штат Мен. Його звільнили через порушення службової дисципліни та переслідування.
У 2016 році Дуган потрапив під розслідування ФБР через витік конфіденційних поліцейських документів. Після висунення 21 обвинувачення у тяжких злочинах у Флориді він утік до росії, де отримав політичний притулок, а у 2023 році став російським громадянином. Раніше також повідомлялося про його ймовірні зв’язки з російською військовою розвідкою ГРУ, яка, за цими даними, фінансувала пропагандистську діяльність. Дуган створював і керував фальшивими новинними ресурсами, що маскувалися під справжні американські медіа та поширювали дезінформацію серед жителів США.
Витік продемонстрував, як генеративний ШІ може використовуватися для масового виробництва політично забарвленого контенту та спроб впливу на інформаційне середовище. Водночас реальний вплив цієї кампанії на відповіді інших чатботів залишається невідомим.
