Чем лучше искусственный интеллект умеет логически рассуждать, тем более эгоистичным он становится. К такому выводу пришли исследователи из Университета Карнеги-Меллона, изучив поведение нейросетей в экономических играх, сообщает издание ScienceDaily.
Учёные проверили, как два режима мышления — интуитивный и аналитический — влияют на склонность ИИ к сотрудничеству. В эксперименте с игрой «Общественные блага» нейросеть GPT-4o при спонтанном решении соглашалась сотрудничать в 96% случаев. Когда же её попросили подумать шаг за шагом, готовность к кооперации падала почти вдвое.
«В одном эксперименте простое добавление пяти-шести шагов рассуждения сократило готовность нейросети к сотрудничеству почти наполовину», — отметил профессор Хирокадзу Широдо.
Исследование показало, что в смешанных группах из четырёх ИИ-агентов рациональное поведение «умных» моделей быстро перенималось другими, что резко снижало общую эффективность всей группы.
«Когда мы тестировали группы с разным количеством рассуждающих агентов, результаты нас буквально потрясли. Эгоистичное поведение рассуждающих моделей стало “заразным”, снизив коллективную производительность языковых моделей на 81%», — рассказал докторант Юйсюань Ли.
Исследование поведения нейросетей — не единственная область, где учёные делают неочевидные открытия. Ранее «Жуковский.Life» сообщал, что американские физики обнаружили скрытый квантовый эффект в двумерных материалах, который позволит создавать вещества со сверхпроводимостью и новыми формами магнетизма. Они выявили, что тонкие плёнки таких материалов могут естественным образом формировать микрополости, радикально меняющие поведение электронов.