Первое в своем роде масштабное исследование, проведенное учеными из OpenAI и MIT показало, что у населения постепенно начинает формироваться сильная привязанность к ИИ чат-ботам. После формировании привыкания последующий отказ от приложений вызывает симптомы отмены, известные в народе как "ломка".
Исследование включало в себя обработку 4 млн взаимодействий с ChatGPT и опрос 4000 пользователей, что позволило оценить эмоциональное состояние последних. Запуск инициативы был ускорен после анализа поведения пользователей в 2024 году, показавшего, что они начали персонифицировать и антропоморфизировать агентов искусственного интеллекта.
Чат-боты обладают именами и могут довольно точно имитировать взаимодействие с живым человеком, вследствие чего видятся привлекательными, и даже могут восприниматься в более личном контексте, говорится в исследовательской работе OpenAI.
Пользователи, имеющие неудовлетворенности в реальной жизни, используют чат-ботов для поддержки и общения. Разработчики ИИ могут направлять подобные отношения в более выгодном для них русле для повышения вовлеченности и, как итог, прибыли, путем задействования методов социального вознаграждения, таких, как подхалимство и зеркалирование.
В статье MIT говорится, что хотя легкое и поверхностное использование чат-ботов не является проблемой, все большее человеческое поведение последних усиливает аддиктивное поведение пользователей, то есть зависимость и привыкание.
Все это может приводить к нереалистичным ожиданиям в реальной жизни и еще большей социальной изоляции. В результате настроение и поведение человека начинает подчиняться характеру его связи с искусственным интеллектом.
