Хакери активно крадуть облікові дані користувачів для доступу до великих мовних моделей (LLM), таких як ChatGPT і Claude, і навіть активують моделі, яких ще немає на ринку.
Така діяльність називається **LLM-джекінг** і являє собою несанкціонований доступ до моделей штучного інтелекту через викрадені акаунти. Це може призвести до серйозних фінансових втрат для постраждалих компаній, які можуть перевищувати 100 000 доларів США на день. Зловмисники також використовують ці моделі для вдосконалення своїх інструментів атаки та обходу регулювання контенту, зокрема санкцій і цензури.
Зловмисники також використовують LLM для аналізу зображень, зламування пазлів та інших шахрайських дій. Наприклад, дослідники помітили російського студента, який використовував вкрадені облікові дані для створення моделі Claude через Amazon Web Services (AWS). Останнім часом такі дії стали більш популярними через бажання користувачів обійти санкції, введені проти Росії та продовжити використання заборонених технологій.