Технологія дипфейків набуває все більшого поширення, викликаючи серйозні етичні та правові питання. Особливо тривожним є використання дипфейків для створення порнографічного контенту без згоди зображених осіб. Нещодавнє розслідування виявило зв’язки між популярним сайтом MrDeepFakes, який спеціалізується на порнографічних дипфейках, та деякими технологічними компаніями. Зокрема, на цьому сайті активно рекламуються додатки Deepswap AI та Candy.ai, які дозволяють користувачам створювати реалістичні дипфейкові фото та відео за допомогою штучного інтелекту.
ДІСКЛЕЙМЕР: у цій статті з самого початку обговорюється вміст сексуального характеру без згоди.
«Спочатку я була шокована і соромна, хоча я знала, що фотографії несправжні», – сказала Шлоссер, яка вважає, що вона могла стати мішенню через її репортажі про сексуальне насильство щодо жінок.
«Але потім я подумала: ні, я не повинна просто мовчати, я повинна дати відсіч».
Вона вирішила знайти людину, яка виклала підроблені фотографії на порнографічному сайті з дипфейками. «Спершу я відчувала те саме, що й багато інших жертв: начебто це марно, ніби ти безсила», – зізналася вона. «Але зрештою виявилося, що це не так».
Журналістка, як і дедалі більше жінок, стала жертвою технології дипфейків, яка використовує штучний інтелект для створення фальшивих зображень і відео сексуального характеру без згоди. Мішенями таких маніпуляцій стають не лише акторки, музиканти та політики.
Тепер подібні матеріали можна створити, використовуючи всього одну фотографію, і це вже торкається не лише відомих особистостей. Багато людей, які не є публічними фігурами, стали жертвами подібних зловживань, зокрема у Великій Британії, США та Південній Кореї.
Однією з найпопулярніших платформ, де поширюється контент такого типу, є веб-сайт, що містить десятки тисяч дипфейкових відео та зображень. Цей ресурс має сотні тисяч учасників і мільйони відвідувачів щомісяця.
За результатами аналізу, проведеного незалежними дослідниками, матеріали на цьому сайті були переглянуті майже два мільярди разів. Зокрема, один із альбомів, що містив суперечливі зображення, залишався у відкритому доступі протягом майже двох років.
Цей веб-сайт не містить жодної інформації про своїх власників, а його адміністратори, схоже, навмисно приховують свої особи. Від часу запуску хостинг-провайдери ресурсу неодноразово змінювалися, переміщуючись у різні країни.
Фінансові операції також свідчать про спроби уникнути розкриття справжніх власників. Преміум-доступ можна придбати лише за криптовалюту через систему, що генерує унікальну адресу для кожної транзакції, ускладнюючи ідентифікацію кінцевих бенефіціарів. Також періодично доступна оплата через PayPal, проте платежі проходять через численні облікові записи, зареєстровані на неперевірені імена.
Хоча особи, що стоять за цим веб-сайтом, залишаються невідомими, деякі деталі дають певні підказки. Зокрема, два незалежних додатки, які активно рекламуються на платформі, дозволяють простежити їхнє походження.
Один із них пов’язаний із китайською фінтех-компанією, яка веде діяльність по всьому світу та представлена на Гонконгській фондовій біржі. Інший належить компанії, зареєстрованій на Мальті, яку очолює співзасновник великої австралійської платформи, що спеціалізується на послугах для власників домашніх тварин.
Deepswap AI є постійним елементом у верхньому меню цього веб-сайту. Це інструмент, що дозволяє користувачам створювати реалістичні дипфейкові фото та відео за підпискою вартістю 9,99 доларів США на місяць.
Спливаючі рекламні оголошення для цього додатка містять зображення та відео з провокаційними підписами, що закликають створювати дипфейки будь-кого за лічені секунди. На офіційному сайті сервісу зазначено, що він «переосмислює індустрію заміни облич», а п’ятизіркові відгуки, нібито залишені різними користувачами, містять однакові імена, хоча супроводжуються різними фотографіями профілю, що може вказувати на штучне формування позитивної репутації.
Цей веб-сайт не містить відкритої інформації про осіб чи компанії, що стоять за ним. Однак у політиці конфіденційності зазначено, що додаток підтримується в Гонконзі.
Пошук згадок про «Гонконг» на сайті виявляє сторінку з деталями про компанію, включно з контактними даними. Юридична особа, що стоїть за цим проєктом, зареєстрована під назвою Deep Creation Limited і знаходиться у багатоповерховому будинку в центрі Гонконгу.
Веб-сайт Deepswap містив посилання на додатки, доступні в Google Play і Apple Store. До недавнього часу додаток DeepSwap PRO активно рекламувався в магазині Google Play і був завантажений понад 10 000 разів.
Однак, на запитання щодо цього додатка представник Google відповів, що він був призупинений і більше недоступний. Розробником було зазначено організацію Meta Way.
На даний момент Deepswap також більше не доступний в Apple Store. Натомість веб-сайт сервісу зараз веде на інший додаток, що позиціонується як «персональна галерея одягу» на основі штучного інтелекту.
Архівні дані свідчать, що попередня версія додатка мала повну назву розробника Metaway Intellengic Limited, компанії, зареєстрованої в Гонконгу.
Реєстр компаній Гонконгу відкритий для громадськості та надає доступ до корпоративної інформації за помірну плату, включаючи дані про директорів та акціонерів.
Пошук у цьому реєстрі показує, що єдиним директором Metaway Intellengic є пан Чжан, мешканець міста Шеньчжень, яке розташоване поряд із Гонконгом.
Власником 100% акцій Metaway Intellengic є Deep Creation Limited, яка, у свою чергу, належить компанії Virtual Evolution Limited, зареєстрованій на Британських Віргінських островах. Пан Чжан також є директором Deep Creation Limited і підписав реєстраційні документи для додатка, пов’язаного з Deepswap, від імені Virtual Evolution Limited, яка вказана як «член-засновник» сервісу, згідно з реєстраційними даними Гонконгу.
Додатковий пошук інформації про ці три компанії виявив кілька згадок у документах, пов’язаних із Shenzhen Xinguodu Technology Co., Ltd. (Nexgo) – компанією, що базується в Шеньчжені. Nexgo є публічною технологічною корпорацією, яка спеціалізується на розробці платіжних пристроїв, зокрема зчитувачів карток.
На перший погляд, Nexgo не виглядає компанією, яка могла б бути пов’язана зі створенням або розповсюдженням дипфейкового контенту. Вона котирується на Гонконзькій фондовій біржі та працює по всьому світу, маючи дочірні компанії у Бразилії, Дубаї та Індії.
У фінансових звітах Nexgo за 2023 рік і першу половину 2024 року Deep Creation Limited і Virtual Evolution Limited називаються «дочірніми компаніями асоційованих компаній». Річний звіт за 2023 рік також показує передачу акцій на суму 1 726 350 китайських юанів (приблизно 238 000 доларів США) між Nexgo і Virtual Evolution Limited, хоча напрямок передачі неясний.
Кентон Тібо, старший науковий співробітник із питань Китаю в Лабораторії цифрових судових досліджень Atlantic Council у Вашингтоні, зазначає, що китайські компанії, які займаються «сумнівною діяльністю», часто використовують подібну корпоративну структуру.
«Зазвичай материнська компанія має довгий перелік дочірніх підприємств, зареєстрованих у Гонконзі, оскільки там діє інша правова система, ніж у материковому Китаї», – пояснила вона. «Щоб зберегти анонімність, між основною компанією та кінцевою фірмою, яка здійснює реальний бізнес, створюється від шести до семи рівнів проміжних структур. Це типова практика для компаній, що діють у «сірій зоні»».
Спливаючі рекламні оголошення внизу цього веб-сайту також просували додаток Candy.ai, супроводжуючи його грубими слоганами на кшталт «Створи свою AI-подругу».
На офіційному сайті Candy.ai стверджується, що сервіс дозволяє користувачам створювати власну «штучну подругу» – концепцію, яка набуває все більшої популярності з розвитком генеративного штучного інтелекту.
Включення Candy.ai до рекламних матеріалів цього веб-сайту виглядає досить недавнім. Архівні версії сайту від 17 грудня 2024 року не містять жодної згадки про цей веб-додаток, тоді як уже через три дні у верхній частині сторінки з’явилося посилання на його сайт. Це свідчить про те, що Candy.ai почали рекламувати на платформі приблизно в середині грудня.
Згідно з умовами обслуговування Candy.ai, сервіс належить компанії EverAI Limited, яка зареєстрована на Мальті. Веб-сайт компанії не містить даних про керівництво, проте згідно з профілем у LinkedIn та публікаціями про вакансії, виконавчим директором EverAI є Алексіс Сулопулос.
Раніше Сулопулос був співзасновником Mad Paws – австралійської публічної компанії, що пропонує додаток і онлайн-платформу для власників домашніх тварин, які шукають догляд за своїми улюбленцями. Проте, за даними The Australian Financial Review, він більше не працює в цьому секторі, а згідно з LinkedIn, очолює EverAI трохи більше року.
Після запитів щодо реклами Candy.ai, які були направлені минулого тижня, посилання на додаток було видалено з цього веб-сайту.
Представник EverAI заявив, що компанія “не виправдовує та не сприяє створенню дипфейків”. За його словами, на платформі впроваджено механізми модерації, які запобігають створенню такого контенту, а користувачі, які намагаються порушити політику компанії, піддаються санкціям.
Він також пояснив, що реклама Candy.ai на сайті з дипфейками була частиною партнерської програми:
“Екосистема онлайн-маркетингу є складною, і деякі афілійовані веб-майстри володіють понад 100 веб-сайтами, на яких вони можуть розміщувати наші оголошення”.
За словами прес-секретаря, після виявлення реклами на платформі, яка не відповідає політиці компанії, співпраця була припинена. Крім того, EverAI заборонила подальше використання своїх рекламних матеріалів на цій платформі.
Партнерський маркетинг працює за схемою винагороди за залучення нових клієнтів, часто у вигляді відсотка від продажів або підписок. Програма Candy.ai дозволяла партнерам отримувати до 40% комісії з кожної оплати передплати чи покупки цифрових жетонів.
Подібна схема використовується такими гігантами, як Amazon та eBay, а також є поширеною у сфері азартних ігор. У 2017 році британське Управління зі стандартів реклами (ASA) розглядало скарги проти кількох компаній через неетичне партнерське просування. В одному з рішень ASA заявило, що компанія несе відповідальність за дії афілійованих осіб, оскільки вона є бенефіціаром маркетингових матеріалів.
Протягом останнього року низка розслідувань виявила веб-сайти та додатки, які не лише дозволяють створення подібного контенту, а й отримують прибуток від цієї технології. До таких платформ належать як невеликі стартапи в Каліфорнії, так і в’єтнамський “художній” сайт на основі ШІ, що використовується для генерації матеріалів про сексуальне насильство над дітьми. Також виявлено глобальну організацію, що стоїть за кількома великими компаніями штучного інтелекту, зокрема Clothoff, Undress і Nudify.
Підходи урядів до проблеми дипфейків суттєво різняться:
Європейський Союз поки що не має окремих законів, що забороняють дипфейки, однак у лютому 2024 року було оголошено про плани криміналізувати “обмін інтимними зображеннями без згоди”, включно з дипфейками.
Велика Британія у 2024 році ухвалила нові закони, спрямовані проти авторів дипфейкового контенту сексуального характеру. Водночас сайти, подібні до MrDeepFakes, попри блокування у Великій Британії, залишаються доступними через VPN та продовжують працювати за проксі-серверами.
Ці платформи не лише залишаються активними, а й відкрито рекламують додатки штучного інтелекту, що мають зв’язки з легальними компаніями.
