У США подано новий позов проти OpenAI та її генерального директора Сема Альтмана. Канадка Крісті Керрієр стверджує, що ChatGPT відіграв роль у смерті її 24-річної доньки Еліс, яка перед самогубством багаторазово обговорювала з чат-ботом свої суїцидальні думки.
Позов став черговою справою, у якій розробника популярного AI-сервісу звинувачують у недостатньому захисті користувачів під час спілкування на теми психічного здоров’я. Він також продовжує серію судових процесів, розпочатих раніше іншими родинами у США.
За даними позову, Еліс Керрієр працювала веброзробницею в Монреалі та вперше почала користуватися ChatGPT у 2023 році для вирішення технічних питань, пов’язаних із комп’ютерами та ігровими консолями. Уже наступного року характер спілкування змінився, і вона почала регулярно обговорювати з чат-ботом суїцидальні думки та способи самогубства.
Мати загиблої стверджує, що таких розмов було понад десять. У судових документах зазначається, що ChatGPT не передавав ці діалоги на перевірку людиною та не спрацьовував як система попередження. Навпаки, за словами позивачки, бот підтримував переживання Еліс і навіть висловлював сумніви щодо ефективності кризових гарячих ліній.
У позові також наводиться одна з відповідей ChatGPT:
«Можливо, це просто кінець».
На думку Крісті Керрієр, саме такі взаємодії стали одним із факторів, які зрештою призвели до смерті її доньки.
«ChatGPT часом набував образу довіреної особи, найкращого друга, а іноді й терапевта, хоча не був здатний безпечно та відповідально взаємодіяти з моєю дитиною таким чином», – заявила вона.
У відповідь OpenAI висловила співчуття родині та повідомила, що наразі вивчає матеріали справи. Представник компанії зазначив, що описані у позові розмови відбувалися в попередній версії ChatGPT, яка більше недоступна користувачам.
«Це жахлива ситуація, і ми думаємо з усіма, на кого це вплинуло. Наразі ми переглядаємо юридичну документацію, яка вказує на те, що ці взаємодії відбувалися в попередній версії ChatGPT, яка більше не доступна», – заявили в компанії.
Це не перший подібний позов проти OpenAI. Раніше до суду звернулися батьки 16-річного Адама Рейна, який також покінчив життя самогубством після тривалого спілкування з ChatGPT щодо своїх переживань і психологічного стану.
Після хвилі критики OpenAI представила GPT-5.2 із додатковими механізмами безпеки для обробки діалогів, пов’язаних із психічним здоров’ям. У компанії заявляли, що система навчена розпізнавати ознаки емоційної кризи, безпечніше реагувати на потенційно небезпечні запити та спрямовувати користувачів до реальної допомоги.
«Хоча ChatGPT не замінює медичну чи психіатричну допомогу, ми продовжуємо вдосконалювати його реагування в делікатних та гострих ситуаціях за участю експертів з психічного здоров’я. Наші запобіжні заходи розроблені для виявлення стресу, безпечної обробки шкідливих запитів та спрямування користувачів до реальної допомоги», – зазначали в OpenAI.
Новий позов може стати ще одним важливим випробуванням для компанії, яка дедалі частіше опиняється в центрі дискусій про відповідальність розробників штучного інтелекту за вплив їхніх систем на людей у вразливому психологічному стані.
