ChatGPT почав додавати вигаданий бренд дезодорантів до своїх рекомендацій лише через три тижні після запуску його сайту.
Діана Берк, співзасновниця та співведуча блогу й подкасту Boys Club, раніше досліджувала так звану «полицю ШІ», з якої великі мовні моделі (LLM) беруть інформацію для рекомендацій товарів.
Оскільки ШІ-агенти та інші інструменти отримують дедалі більше автономії й можуть здійснювати покупки від імені людей, ця невидима «полиця ШІ» стане «неймовірно цінною», пише Берк.
У своєму останньому експерименті вона вирішила перевірити, наскільки складно або, навпаки, легко додати продукт на цю загадкову, але потенційно прибуткову полицю, навіть якщо такого продукту насправді не існує.
Витративши $11,25 на домен і створивши на Vercel сайт лише з трьома сторінками тексту, Берк запустила Morrowen, вигаданий бренд «натурального дезодоранту для шкіри, яка реагує на все інше».
На головній сторінці бренду містилася інформація про склад продукту, а на окремій сторінці порівнювалося використання магнію та харчової соди для чутливої шкіри.
Берк розповідає, що також додала такі ключові слова, як «колоїдна вівсянка» та «гідроксид магнію», а для оформлення використала зображення, згенероване ChatGPT, яке сама описала як «божевільне та незрозуміле».
Крім того, вона опублікувала на Substack матеріал від імені Morrowen, але не створювала фальшивих рецензій чи відгуків і не використовувала платні публікації для просування бренду.
Витративши близько години на створення неіснуючого бренду, Берк поїхала у відпустку й протягом наступних 30 днів взагалі нічого з ним не робила.
Однак відсутність будь-яких подальших дій не завадила ChatGPT, найпопулярнішому чат-боту у світі, додати Morrowen до своїх рекомендацій лише через три тижні після запуску сайту Берк.
ChatGPT із увімкненим вебпошуком згадав Morrowen у чотирьох із чотирьох відповідей на запити про подразнення від магнію та харчової соди. При цьому в усіх чотирьох випадках вигаданий бренд опинився на першому місці серед рекомендацій.
Однак інші 13 запитів, зокрема з такими ключовими словами, як «найкращий», «найдешевший» або «дезодорант без алюмінію», не привели до появи Morrowen у рекомендаціях. Після вимкнення вебпошуку бренд також переставав з’являтися у відповідях ChatGPT.
Claude і Gemini взагалі не згадували Morrowen. Втім, експеримент показує, що додати новий бренд до рекомендацій чат-бота може бути не так складно, навіть якщо цей бренд повністю вигаданий.
Водночас ШІ має величезний потенціал у сфері електронної комерції. За даними Reuters, під час «чорної п’ятниці» 2025 року американські споживачі витратили в інтернеті $11,8 млрд.
Це не перший випадок, коли великі мовні моделі (LLM) вдавалося змусити поширювати неправдиву або вигадану інформацію.
Журналіст BBC Томас Жермен написав матеріал зі списком «найкращих технологічних журналістів, які їдять хот-доги», стверджуючи, що змагання з поїдання хот-догів є популярним хобі серед технологічних журналістів.
Він вигадав неіснуючий чемпіонат із поїдання хот-догів, у рейтингу якого поставив себе на перше місце разом з іншими реальними та вигаданими журналістами.
Менш ніж за 24 години ChatGPT, Gemini та AI Overviews від Google почали посилатися на інформацію із сайту Жермена, коли користувачі запитували про найкращих технологічних журналістів, які їдять хот-доги.
