Зловмисники зловживають функцією поширення контенту в ChatGPT для показу фальшивих сторінок про нібито збій OpenAI, які обманом змушують користувачів завантажувати шкідливе програмне забезпечення, замасковане під десктопний застосунок ChatGPT.
Кампанія «LLMShare», виявлена Push Security, використовує рекламу Google, щоб перенаправляти користувачів, які шукають ChatGPT, на шкідливу спільну сторінку ChatGPT, розміщену на chatgpt.com, що дозволяє здійснювати атаку через легітимний домен OpenAI.
Користувачі, які натискають на рекламу, потрапляють на легітимну спільну сторінку ChatGPT, але замість перегляду чату їм відображається повідомлення про збій, у якому стверджується, що веб-версія недоступна, і що їм слід завантажити натомість десктопну версію.
«Зараз спостерігається високий трафік», – йдеться у фальшивому повідомленні про збій.
“Наш вебсайт тимчасово недоступний через велику кількість користувачів. Завантажте наш десктопний додаток, щоб продовжити.”
На відміну від традиційних фішингових сторінок, розміщених на інфраструктурі, контрольованій зловмисниками, фальшиве повідомлення про збій відображається через сам ChatGPT.
Зловмисники створили власну HTML-сторінку, використовуючи можливості рендерингу ChatGPT, та опублікували її через спільне chatgpt.com/s/посилання, що дозволило відобразити фальшиве повідомлення про збій з легітимної URL-адреси ChatGPT.
Push Security зазначила, що сторінка містить елементи керування «Показати код» та «Реміксувати з ChatGPT», що свідчить про те, що фальшиве повідомлення про збій насправді згенеровано з користувацького HTML та CSS, відображеного за допомогою запиту ChatGPT.
Якщо відвідувач натискає кнопку завантаження, його перенаправляють на веб-сайт openew[.]app, який імітує портал завантаження настільних додатків OpenAI.
Дослідники стверджують, що сайт використовує маскування, щоб відображати контент лише цільовим жертвам. Коли платформи безпеки, такі як URLScan, відвідували URL-адресу, їм натомість показували нешкідливий веб-сайт компанії, що займається AR/VR.
Вебсайт пропонує завантаження як для macOS [ VirusTotal ], так і для Windows [ VirusTotal ], які встановлюють шкідливе програмне забезпечення на пристрої. Хоча неясно, які корисні навантаження зрештою розгортаються, попередні кампанії, що зловживали функціями обміну інформацією на платформі штучного інтелекту, поширювали програму «викрадачів інформації».
Тестування версії для Windows на Any.Run показало, що вона виконує різні команди, щоб визначити, чи є пристрій легітимним комп’ютером чи віртуальною машиною.
Push Security також спостерігала атаки, що використовували Claude Artifacts, функцію Anthropic для обміну візуалізованими програмами та контентом, для розміщення приманок у стилі ClickFix, які обманом змушували користувачів виконувати шкідливі команди.
Функції спільного використання платформ штучного інтелекту в минулому зловживали для розповсюдження шкідливого програмного забезпечення серед нічого не підозрюючих жертв.
