Искусственный интеллект (ИИ) может вскоре начать скрыто влиять на решения пользователей, утверждают ученые Кембриджского университета в недавно опубликованном исследовании. Это явление связано с появлением новой коммерческой области, называемой «экономикой намерений», которая может изменить способы принятия решений, от покупки билетов в кино до выборов политических кандидатов.
Исследование подчеркивает, что чат-боты и другие антропоморфные ИИ-агенты становятся важными инструментами для манипулирования человеческим выбором. Эти технологии могут анализировать онлайн-поведение пользователей, их предпочтения, привычки и даже эмоциональное состояние, чтобы предугадывать их желания и строить «новые уровни доверия».
Ученые предупреждают, что в будущем это может привести к массовой социальной манипуляции. ИИ будет использовать модели, которые собирают и анализируют данные о пользователе — от его политических взглядов до стиля общения, возраста и предпочтений в общении. На основе этой информации, ИИ сможет направлять действия пользователя, например, к выбору определенных товаров, услуг или политических позиций.
Эксперты подчеркивают, что «экономика намерений» будет рассматривать мотивацию людей как новый товар, превращая ее в «валюту», с которой можно манипулировать. Один из авторов исследования, Джонни Пен, предупреждает, что без должного регулирования эта практика может привести к серьезным последствиям для таких сфер, как выборы, свобода прессы и честная рыночная конкуренция.