В апреле прошлого года вышла новость о том, что Facebook создал симуляцию своей социальной сети и наполнил ее ботами.
Симуляция Facebook создана на том же коде, что и настоящая социальная сеть. В параллельном мире вместо пользователей в сети живут боты, которые выполняют те же стандартные действия, что и мы: добавляют друг друга в друзья, пишут сообщения, ставят лайки. Но у них есть особая миссия - они ищут изъяны в безопасности Facebook и помогают инженерам устранить возможнные ошибки, которые могут быть на реальном сайте сейчас или при нововведениях.
Исследователи опубликовали документ о WES ("web-enabled simulation"), где описали виртуальную социальную сеть, которую населяют боты, выполняющие определенные действия. Они воспроизводят взаимодействия реальных пользователей и их социальное поведение. Система обучает ботов правильно имитировать действия настоящих пользователей, стимулируя их наградой после успешно выполненного действия. Привет Ивану Петровичу Павлову!
Боты моделируют "плохие" ситуации: взлом переписки, публикация контента, нарушающего правила социальной сети, мошенические действия. В ходе игры система ищет нарушителей правил, пытается их остановить и анализирует действия и ошибки ботов.
Конечно, создатели уверяют, что параллельный мир не столкнется с реальным и мы не увидим у себя в друзьях странные личные профили и запросы на переписку.
Но меня больше насторожило другое.
Во-первых, как вы знаете (или нет), любое обучение искуственного интеллекта приводит к тому, что ИИ начинает обучаться сам, без помощи человека. Куда приведет это обучение, пока не ясно.
Во-вторых, раз система обучает ботов имитировать социальное поведение на платформе на основе поведенческих факторов реальных пользователей, то это значит, что на основе ботов система может предсказывать наше поведение.
Например, на основе реального пользователя "Маши 1" создали бота "Маша 2". "Маша 2" изучила паттерны поведения своего донора, выявила условные ошибки, спрогнозировала пути взломов. Но что ей мешает пойти дальше и на основе данных о "Маше 1" спрогонозировать, как та же "Маша1" отреагирует на тот или иной контент, какой оффер, цвет или шрифт в рекламе ей не просто понравится, а даст успешное выполнение покупки.
Здесь можно предлагать для таргета не просто данные пользователя, а его точное поведение относительно вашего продукта.