Створювати дипфейкову порнографію стає дедалі простіше через спеціалізовані Telegram-боти, які дозволяють маніпулювати чужими фотографіями майже без технічних навичок. Деякі з таких сервісів додатково заохочують користувачів повертатися, пропонуючи кредити, реферальні бонуси, лотереї та інші винагороди.
Старший дослідник Centre for Information Resilience (CIR) Том Джарвіс виявив мережу ботів для створення дипфейкового сексуального контенту, які працюють у Telegram.
Такі боти мають «навмисно просте» меню, щоб максимально спростити процес. Користувач може завантажити фотографію з інтернету або соціальних мереж, зокрема Instagram, після чого сервіс за допомогою ШІ створює підроблене оголене зображення людини.
При цьому бот не здатний визначити, чи дала зображена на фотографії людина згоду на такі маніпуляції. Ніщо не заважає користувачеві завантажити фотографію однокласниці, незнайомої людини або публічної особи.
Маніпулювання чужими фотографіями існувало задовго до появи генеративного ШІ. Раніше для цього використовували Photoshop та інші графічні редактори. Однак, за словами Джарвіса, сучасні сервіси дозволяють масово створювати підроблений сексуальний контент «з мінімальними технічними навичками».
Досліджені CIR сервіси також свідчать про те, що основними цілями такого контенту стають жінки та діти. У більшості рекламних матеріалів ботів демонструються жіночі образи в різних позах і на різних стадіях штучного «роздягання».
Окремі сервіси пропонують спеціальні «студійні» режими. З їхньою допомогою користувачі можуть не лише створювати підроблені оголені зображення, а й штучно змінювати одяг людини, зокрема додавати фетиш-вбрання на кшталт чорного латексу.
Створений дипфейковий сексуальний контент не завжди залишається у користувача, який його згенерував. Деякі сервіси мають спільні бібліотеки, де люди можуть публікувати та демонструвати результати іншим.
Через це постраждала людина може стати жертвою повторно. Підроблені інтимні зображення переглядають інші користувачі, їх копіюють, оцінюють, поширюють і пересилають, зокрема для демонстрації можливостей конкретного бота.
У деяких випадках CIR виявив, що за популярний дипфейковий порноконтент користувачі могли отримувати винагороди. Якщо створене зображення ставало особливо популярним, його автору нараховували додаткові токени.
Сервіси також стимулюють людей повертатися за допомогою реферальних бонусів, лотерей та додаткових кредитів. Таким чином оператори намагаються не просто залучити нових користувачів, а й утримувати вже наявних.
В одному з досліджених сервісів створення одного зображення коштує один кредит, а відео обходиться у п’ять кредитів. Новим користувачам одразу надають шість безкоштовних кредитів у розрахунку на те, що надалі вони продовжать користуватися сервісом уже за гроші.
Базові або менш відверті режими часто доступні безкоштовно. За преміальні можливості та створення більш відвертого контенту потрібно платити окремо.
Для оплати можуть використовуватися криптовалюти або Telegram Stars. Як зазначає Telegram, користувачам не потрібно передавати ботам особисті дані або реквізити банківської картки для здійснення платежів у Stars.
Дослідники звернули увагу на ще одну важливу особливість цієї системи. Простого блокування Telegram-ботів недостатньо, оскільки сам бот часто є лише зовнішньою оболонкою значно більшої інфраструктури.
Боти можуть перенаправляти користувачів на окремі домени, де фактично й працює основна частина сервісу. Платіжні механізми, керуючий код та системи генерації зображень і відео можуть бути розміщені у зовнішніх веб-сервісах або працювати через сторонні API.
Через це видимий Telegram-бот фактично стає одноразовою точкою входу. Навіть якщо його заблокувати, бекенд, платіжна інфраструктура, реферальна система та інші компоненти можуть продовжити працювати незалежно від нього.
Саме тому видалення окремих ботів майже не зачіпає основну інфраструктуру таких сервісів. На місці заблокованого бота оператори можуть створити нову точку доступу, не розгортаючи всю систему заново.
Створення підроблених інтимних зображень існувало й раніше, однак розвиток генеративного ШІ суттєво знизив технічний поріг для таких маніпуляцій. Те, що колись вимагало навичок роботи з графічними редакторами, тепер частково автоматизують спеціалізовані сервіси.
Telegram у цій схемі може виступати лише зручним інтерфейсом між користувачем і зовнішньою інфраструктурою. Через це боротьба з окремими ботами не обов’язково призводить до припинення роботи самого сервісу.
На думку дослідників, ефективна протидія таким платформам має охоплювати не лише Telegram-ботів, а й домени та серверну інфраструктуру, яка забезпечує їхню роботу. Водночас від Telegram очікують посилення превентивних заходів і чіткого визнання сексуальних маніпуляцій із зображеннями за допомогою ШІ формою насильства.
