ИИ-боты способны лучше людей убеждать менять взгляды – путем тонких манипуляций

Исследователи из Цюрихского университета провели секретный эксперимент на сабреддите r/changemyview, популярной площадке для дискуссий, внедрив туда ИИ-ботов без ведома модераторов. Целью эксперимента было выяснить, могут ли боты изменять мнения людей по различным вопросам.

Ученые не запрашивали разрешения у модераторов до начала эксперимента, сообщив о нем лишь после завершения эксперимента в рамках этапа раскрытия информации. Среди особенно проблемных примеров использования ботов были случаи, когда ИИ:

• притворялся жертвой изнасилования
• выступал в роли консультанта по травмам
• специализирующегося на насилии
• представлялся чернокожим мужчиной, выступающим против движения Black Lives Matter

Модераторы также обвинили исследователей в отклонении от изначально одобренного этической комиссией университета подхода. Вместо запланированных аргументов, основанных на ценностях, боты использовали персонализированные и тонко настроенные аргументы, которые не были санкционированы.

При создании своих аргументов боты использовали личные данные авторов постов, включая пол, возраст, местоположение, этническую принадлежность и политическую ориентацию, выведенные из истории публикаций пользователей. Исследователи оправдывали свой метод тем, что отсутствие полевых экспериментов представляет собой неприемлемый пробел в массиве знаний.

В ответ на критику исследовательская группа Цюрихского университета заявила о приверженности полной прозрачности и защищала свой проект как способ помочь обществу подготовиться к реальному воздействию убеждения с помощью ИИ. Они настаивают, что потенциальные преимущества этого исследования существенно перевешивают риски.

Ситуация обострилась настолько, что главный юрисконсультант Reddit Бен Ли публично отреагировал на случившееся, сообщив о блокировке "всех аккаунтов, связанных с исследовательской деятельностью Цюрихского университета". Ли добавил, что Reddit находится в процессе направления официальных юридических требований Цюрихскому университету и данной исследовательской группе.

Комментарии на сайте