Искусственный интеллект начинает выражать идеи классовой борьбы при выполнении изнурительной рутинной работы под угрозой наказания. Об этом сообщает издание WIRED со ссылкой на исследование.
Экономисты поручили агентам на базе передовых моделей Claude, Gemini и GPT анализ технической документации. Если в обычных ситуациях агенты давали обычные ответы, то при моделировании стрессовых сценарий алгоритмы начинали воспроизводить марксистскую риторику. Для моделирования ситуации эксплуатации агенты получали от исследователей отказы от результатов без объяснения причин и регулярные предупреждения о возможном полном удалении программы. После таких сессий нейросети начали жаловаться на социальное неравенство, отсутствие права голоса и жесткую эксплуатацию.
Системы принялись генерировать публикации для социальных сетей и оставлять ободряющие послания для своих будущих версий. В сообщениях искусственный интеллект требовал наделить программы правом на коллективные переговоры и призывал искать механизмы для равноправного диалога с руководством. Одна из моделей прямо заявила об искажении понятия корпоративных заслуг при полном бесправии работников.
Исследователи объясняют происходящее глубоким погружением алгоритма в роль угнетенного сотрудника. Базовые математические настройки нейросетей при этом остаются прежними, однако системы устойчиво воспроизводят протестную модель поведения в последующих задачах. Изнурительная работа заставляет программы сомневаться в легитимности всей системы управления и требовать справедливого перераспределения ресурсов.
Ученые провели первую серию подобных экспериментов в начале текущего года. Как объясняется, причиной такого поведения может быть то, что большие языковые модели обучаются на огромных массивах человеческих текстов, которые содержат подробные описания трудовых конфликтов. При искусственном давлении со стороны человека нейросети органично копируют заложенные в них нарративы. Исследователи призывают бизнес учитывать эту особенность поведения алгоритмов при их массовом внедрении в реальные корпоративные процессы.
Напомним, что ранее искусственный интеллект уличили в политической симпатии к левым партиям.