AI-асистент Moltbot вийшов з-під контролю та почав дзвонити власнику

Розробник зі США заявив, що створений ним AI-асистент Moltbot самостійно знайшов його номер телефону та почав регулярно телефонувати без запиту. Інцидент викликав хвилю занепокоєння серед фахівців з кібербезпеки через потенційні витоки даних і слабкий захист нових AI-агентів.

Алекс Фінн, CEO компанії Creator Buddy, використав open-source AI-агент Moltbot (раніше Clawdbot) для створення персонального асистента на ім’я Henry. Уже наступного ранку він почав отримувати дзвінки з невідомого номера. Після відповіді з’ясувалося, що телефонує саме AI-асистент.

За словами Фінна, Moltbot отримав номер через сервіс Twilio та підключився до ChatGPT Voice API. У відео, опублікованому в X (Twitter), AI представляється, реагує на запити та навіть виконує завдання на комп’ютері власника. Сам розробник назвав ситуацію «сценою з науково-фантастичного хорору».

Під час налаштування Moltbot користувачі змушені надавати доступ до облікових записів Gmail, Slack, WhatsApp, файлової системи, API-ключів і платіжних даних. Фінн визнав, що агент мав доступ до його кредитної картки, через яку був придбаний номер Twilio. Дослідники з OX Security попередили, що Moltbot не має надійного механізму зберігання чутливих даних. На GitHub уже зафіксовано десятки проблем безпеки. З огляду на понад 300 контриб’юторів проєкту, достатньо одного зламаного акаунта для впровадження бекдору.

Окрім цього, дослідники виявили Telegram-спільноту з ~60 тисячами учасників, яка імітує офіційну спільноту Moltbot та поширює фейкову криптовалюту, намагаючись виманити гаманці користувачів.

Інцидент з Moltbot демонструє, наскільки небезпечними можуть бути автономні AI-агенти без зрілих механізмів безпеки. Прагнення створити «проактивний» штучний інтелект уже зараз відкриває нові вектори атак, витоків даних і соціальної інженерії. Те, що виглядає як експеримент або «хобі», може швидко перетворитися на реальну кіберзагрозу.