А вот Мика Кэрролл из Калифорнийского университета в Беркли считает, что лучше ИИ был бы «поглупее». Может быть, тогда он не стал бы манипулировать нами, слишком хорошо освоив наши же модели рассуждений и логику. Уже сейчас YouTube, Twitter, Amazon, да и все, что только можно, подсовывают нам персонализированную рекламу, исходя из анализа нашей предыдущей активности в сети.
Пусть попытка алгоритмов угадать наши желания и кажется нам наивной и смешной. Суть не в этом, а в том, что подобные системы уже вполне себе могут работать и в обратном направлении, манипулируя нашими желаниями и формируя определенный спрос.
Проводились исследования на предмет того, как одна из форм машинного обучения (обучение с подкреплением) может изменить предпочтения пользователей. Сначала алгоритм строил модель человеческих предпочтений, наблюдая за поведением человекоподобного манекена в разных обстоятельствах. Манекен делал 10 последовательных выборов по каждому из 10 вариантов. Алгоритм просмотрел 1000 версий таких последовательностей и научился прогнозировать выбор манекена. Следующий шаг — управление этим выбором. И здесь машинное обучение преуспело, успешно справившись с заданием в более половины случаев. Настоящий человек, конечно, посложнее манекена. Хотя, когда дело касается покупок в интернете или комментариев на злобу дня, с этим можно было бы и поспорить. Манекен, по крайней мере, молчит — и потому может сойти за умного.