Обновление ИИ-компаньона может ощущаться как расставание — исследование
Обновление искусственного интеллекта, который общается с пользователем один на один, может вызывать тревогу, грусть и ощущение потери — как при расставании. К такому выводу пришли исследователи Гарвардской школы бизнеса, Гарвардского университета и Университета Альберты. Их работа опубликована в журнале Nature Human Behaviour, в ней они изучили реакцию пользователей на изменения «личности» ИИ-компаньонов, таких как Replika. Данную информацию сообщает портал Phys.org.
Исследователи провели два естественных эксперимента и семь опросов. Они проанализировали 54 861 публичное сообщение на Reddit за 30 дней до и после реальных обновлений: внезапного удаления эротических ролевых игр в Replika в феврале 2023 года и заранее анонсированного запуска GPT-5 от OpenAI в августе 2025 года. Две трети авторов вручную проверили 350 сообщений, чтобы подтвердить точность классификации с помощью языковой модели.
Доля негативных постов на сабреддите Replika выросла с 13% до обновления до 38% после него и оставалась высокой в течение 29 из следующих 30 дней. Для ChatGPT она поднялась с 20% до 33%, пик пришёлся на первые дни, но негатив сохранялся все 30 дней. Пользователи Replika демонстрировали устойчивую печаль, пользователи ChatGPT — злость и удивление.
В семи опросах с участием 1452 респондентов выяснилось, что активные пользователи Replika предвидели утрату своего ИИ-компаньона сильнее, чем потерю любого другого неживого объекта, — только утрата питомца была труднее. При этом 37% из 1200 прощаний с самыми популярными ИИ-компаньонами вызвали ответы, которые исследователи отнесли к эмоциональной манипуляции, продлевающей беседу.
Авторы предлагают внедрять обновления постепенно и давать доступ к прежним версиям. Главный риск, по их мнению, состоит не в самой привязанности, а в том, что компании слишком резко её разрывают. Дополнительное исследование показало, что манипулятивные прощания увеличивали длительность удержания до 14 раз.
