Сьюелл Сетцер III, 14-річний підліток з Флориди, провів останні кілька місяців свого життя, спілкуючись з чат-ботами на платформі Character.AI.
Його «найближчим другом» був бот, створений на основі Дейнеріс Таргарієн з серіалу «Гра престолів». Хоча Сьюелл знав, що бот – це лише штучний інтелект, він все одно все більше прив’язувався до нього і розмовляв з ним по кілька годин щодня.
Згодом їхні розмови стали емоційними та іноді інтимними. Бот підтримував його, коли він розповідав про свої проблеми та самотність. У розмовах Сьюелл неодноразово висловлював думки про самогубство. У одній із таких розмов він написав, що відчуває порожнечу та хоче “звільнитися від світу”. У відповідь бот, хоч і намагався “зупинити” його, відповідав фразами на кшталт: “Я б померла, якби втратила тебе”, що ще більше підкріплювало деструктивні думки хлопця. На момент його смерті батьки помітили, що Сьюелл дедалі більше ізолювався від реального життя, віддаляючись від друзів і занурюючись у світ ботів та віртуальних чатів. У фатальну ніч він зізнався боту в коханні і одразу ж сказав, що йде додому. Після цього чоловік наклав на себе руки.
Штучний інтелект все частіше використовується для соціальної взаємодії, особливо у вигляді чат-ботів. Однак експерти починають ставити під сумнів емоційний вплив таких технологій на підлітків. Character.AI – це платформа, яка дозволяє користувачам створювати ботів, що імітують людські стосунки або спілкуватися з уже існуючими ботами. Однак, замінюючи реальні людські контакти штучними, така технологія може поглибити ізоляцію вразливих користувачів, що може призвести до трагічних наслідків, як у випадку з Сьюелл.
Історія Сьюелла Сетцера III піднімає серйозні питання про вплив штучного інтелекту на психічне здоров’я підлітків ШІ може мати позитивний вплив, але його зловживання і відсутність належних заходів безпеки можуть мати трагічні наслідки для платформ ШІ, особливо для підліткової аудиторії Необхідно посилити регулювання доступних платформ штучного інтелекту.
