У 2024 році відбулося кілька визначних подій у сфері кібербезпеки, які продемонстрували зростання ризиків для компаній та користувачів.
384 
Додаток Clothoff, відомий створенням нон-консенсуальних deepfake-порнографічних матеріалів, стверджує, що жертвує кошти на підтримку постраждалих від штучного інтелекту, співпрацюючи з організацією ASU Label. Проте, виникають питання щодо прозорості та справжніх намірів цієї співпраці.
Дісклеймер: У цій статті розглядається вміст сексуального характеру.
Clothoff, один із найвідоміших додатків, що використовує штучний інтелект для створення несанкціонованих deepfake-порноматеріалів, оголосив про фінансову підтримку людей, які постраждали від зловживання технологіями ШІ. Розробники акцентують увагу на співпраці з організацією ASU Label, яка заявляє, що її мета — «захищати права в епоху штучного інтелекту».
Втім, залишається незрозумілим, хто саме стоїть за цією організацією та чому вона вирішила працювати з платформою, яка, навпаки, запускає сервіси на кшталт «безкоштовного ШІ для роздягання людей на фото». Це ставить під сумнів щирість задекларованих цілей.
На офіційному сайті ASU Label немає жодної інформації про команду, власників чи партнерів, що лише підсилює сумніви щодо прозорості цієї структури.
У грудні 2024 року на деяких сайтах, пов’язаних із Clothoff, з’явився текст про нібито співпрацю з Asulabel, а також про перекази коштів на допомогу постраждалим від ШІ. У повідомленні також зазначалась адреса сайту asulabel.com і електронна пошта для зв’язку — [email protected].
Цей текст був розміщений на кількох онлайн-ресурсах, пов’язаних з Clothoff, зокрема й на основному сайті Clothoff.io, який припинив роботу наприкінці 2024 року. Проте компанія досі керує рядом сайтів із подібними доменами.
Веб-сайт asulable.com не знайдено. Однак asulabel.com – домен згаданої контактної електронної адреси – спрямовує на сайт організації, яка називає себе AisafeUse Label (ASU) або ASU Label. Цей веб-сайт для «ASU Label» також містить логотип у верхньому лівому куті, який збігається з логотипом, розміщеним на веб-сайті Клотоффа, що додатково вказує на те, що Клотофф мав на увазі цю організацію.
Відповідно до DomainTools, інструменту, який відображає інформацію про реєстрацію доменів веб-сайтів, домен ASU Label було зареєстровано 15 жовтня 2024 року. Популярний веб-архів Internet Archive Wayback Machine вперше зафіксував сайт ASU Label 13 листопада, а перша згадка Клотоффа про ASU Label була заархівована наступного місяця в грудні.
ASU Label заявляє, що її головна місія — допомагати людям, які постраждали внаслідок небезпечного застосування нейронних мереж. Проте на їхньому сайті відсутні конкретні описи, як саме вони це роблять, а також жодних прямих посилань на ресурси для потерпілих.
У відповідь на запитання про свою діяльність представники організації заявили, що надають «пряму підтримку» й «допомогу окремим особам», однак не уточнили, у чому саме вона полягає. Також було зазначено, що ASU Label є некомерційною організацією, але без вказівки країни реєстрації. Пошук даних у низці міжнародних реєстрів не дав результатів — інформації про «ASU», «AisafeUse Label» чи «ASU Label» знайти не вдалося, хоча варто враховувати, що бази можуть бути неповними або неактуальними.
На прохання надати докази реєстрації як благодійної або некомерційної структури, представники ASU Label заявили, що прийняли «колективне рішення не розголошувати юридичні документи» через нібито наявність «численних ворогів», які, за їхніми словами, прагнуть зірвати виконання місії організації. Проте вони не пояснили, хто саме ці «вороги» і в чому полягали конфлікти.
ASU Label не дала жодних відповідей щодо шкоди, яку завдає глибока фейкова порнографія, створювана платформою Clothoff. Також не було розкрито, хто конкретно стоїть за ASU Label, окрім загального твердження, що організацію заснувала «група спеціалістів у сфері штучного інтелекту, права та громадської активності». Жодної додаткової інформації про партнерські або афілійовані організації також не надано.
Окремо зазначається, що ASU Label нібито є незалежною структурою: «Нам не належить і нами не керує жодна компанія, включно з Clothoff. Ми — команда однодумців, які об’єдналися заради благодійної мети», — йдеться в одному з повідомлень.
Хоча контактну адресу електронної пошти ASU Label можна знайти на сайтах, пов’язаних із Clothoff, вона відсутня на власному веб-сайті ASU і не з’являється у відкритих пошуках. На самому сайті є лише спливаюча форма для тих, хто хоче приєднатися до організації або потребує допомоги у зв’язку з негативним досвідом, пов’язаним із ШІ.
Посилання на ASU Label наразі можна знайти лише на сайтах Clothoff або на самому сайті організації. Коли обом сторонам поставили запитання про їхню взаємодію, Clothoff відповів, що іноді співпрацює з ASU Label.
У коментарях зазначалося, що ASU іноді звертається з проханням допомогти окремим людям або запропонувати участь у дослідницьких ініціативах. У таких випадках Clothoff надає підтримку — як фінансову, так і аналітичну.
ASU Label зі свого боку також підтвердила співпрацю. За їхніми словами, окрім пожертв, Clothoff долучається до досліджень, які стосуються вдосконалення правового регулювання в різних країнах. Як приклад навели спільну роботу з вивчення поширення deepfake-контенту в Японії.
Втім, інформації про ASU Label не виявлено у відкритому японському реєстрі некомерційних організацій, тож питання щодо їхньої юридичної присутності лишається відкритим.
Представники Clothoff описують свій продукт як «платформу для дорослих, що створена для безпечного, згодженого дослідження інтимних фантазій» і запевняють, що вони «категорично забороняють незаконне використання». Проте ці твердження суперечать реальній функціональності сервісу.
Додаток дозволяє користувачам створювати зображення оголених тіл будь-кого за допомогою штучного інтелекту — незалежно від згоди особи на фото. Найчастіше жертвами стають жінки, які стикаються з психологічною травмою, переслідуванням і шкодою для репутації. У деяких країнах, зокрема в США, були випадки, коли неповнолітні використовували платформу для створення зображень однокласників без їхньої згоди.
Представники Clothoff також висловили позицію, що існують «набагато серйозніші проблеми у світі, ніж фото в інтернеті», додаючи, що в майбутньому подібні речі можуть навіть сприйматися з гумором — як своєрідні жарти до Дня дурня.
Втім, у ряді країн, таких як Велика Британія, США та дедалі більше країн, діяльність платформи підпадає під заборону. Наприклад, у США ухвалено закон Take It Down, що передбачає кримінальну відповідальність за розповсюдження інтимних зображень без згоди. У Великій Британії готують новий закон, який вперше у світі заборонить не лише створення, а й володіння інструментами ШІ, призначеними для виготовлення CSAM (матеріалів сексуального насильства над дітьми). Порушникам загрожує до п’яти років ув’язнення.
Clothoff, коментуючи майбутнє технологій, заявив, що «еволюцію ШІ зупинити неможливо», а «спроби заборонити розвиток — марні». Водночас платформа ретельно приховує інформацію про власників. Жоден із їхніх численних веб-сайтів не містить відомостей про осіб чи компанії, що стоять за проєктом.
Під час перевірки виявилося, що на одному з сайтів у футері була згадана компанія з розробки ПЗ. Після звернення до цієї компанії з’ясувалося, що її керівництво нічого не знало про присутність свого імені на сайтах Clothoff і не має з ними жодних зв’язків. Пізніше компанія звернулася до адміністраторів платформи з вимогою видалити згадку, на що ті відповіли: «Ми вже прибрали вашу адресу. Підтвердження додається».
Невдовзі на тому ж місці в футері з’явилася інша назва — вже інвестиційної компанії, орієнтованої на штучний інтелект. Це вже щонайменше четверта компанія, яку пов’язували з Clothoff з 2023 року. Проте через відсутність прямих доказів, що ці структури дійсно керують платформою, їхні імена не розголошуються.
У відповідь на запит про численні згадки різних компаній, Clothoff зазначив, що має холдингову структуру, яка «контролює кілька бізнесів». Водночас не було ні підтвердження, ні спростування зв’язку з конкретними організаціями, вказаними на сайтах.
За словами Clothoff, їхня материнська компанія належить «групі інженерів-ентузіастів», але особи цих людей не розголошуються — нібито через угоди про нерозголошення.
Попередні незалежні розслідування пов’язували платформу з кількома компаніями, а також згадували імена фізичних осіб, зокрема брата і сестру з Білорусі, які, ймовірно, були дотичні до створення чи адміністрування ресурсу.
На офіційному сайті ASU Label перелічено різні види потенційної шкоди, яку може спричинити штучний інтелект: від розповсюдження дезінформації до втрати роботи, алгоритмічної упередженості та небезпечних рекомендацій. У матеріалі, присвяченому темі дипфейків, наводиться приклад з підміною облич відомих людей у контенті для дорослих — що, як зазначається, може завдати серйозної шкоди репутації.
Втім, заявлена ними співпраця з Clothoff — платформою, яка відома створенням несанкціонованого порнографічного контенту на основі глибоких фейків — прямо суперечить проголошеній меті ASU Label щодо захисту прав людини та підтримки жертв штучного інтелекту.
Цікаво, що деякі інструменти аналізу текстів, зокрема GPTZero, Quillbot і ZeroGPT, показали ймовірність 90–100%, що текст на головній сторінці сайту ASU Label був створений за допомогою ШІ. Інші перевірені сторінки — наприклад, статті про ризики ШІ або методи виявлення дипфейків — також показали високі показники: від 75 до 100% вірогідності машинного походження.
На уточнювальні запити представники ASU Label не заперечували використання штучного інтелекту у створенні текстів і заявили, що не вбачають у цьому жодної проблеми, оскільки ШІ допомагає структурувати матеріали на сайті.
Це виглядає дещо суперечливо на тлі публікації самої організації від грудня, де йшлося про ризики маніпуляцій через штучний інтелект. У цій статті попереджалося, що візуальний та текстовий контент, створений ШІ, зокрема дипфейки та статті, може дезінформувати або формувати спотворені наративи. Як зазначалося, такі матеріали часто неможливо відрізнити від справжнього вмісту, що становить серйозну загрозу для інформаційної безпеки.
Попри заяви про благодійність і захист прав жертв ШІ, співпраця ASU Label із Clothoff — платформою, що створює несанкціоновані deepfake-порно — виглядає суперечливою й непрозорою. Відсутність чітких даних про структуру, діяльність і реєстрацію ASU, а також використання ШІ для створення контенту, підриває довіру до їхніх намірів. Усе це ставить під сумнів справжню мету подібних ініціатив — допомогу людям чи прикриття сумнівної діяльності.
Якщо ви постраждали від сексуального насильства на основі зображень, ви можете знайти міжнародний список ресурсів для постраждалих і жертв тут.
384 
425 
774