Забавное исследование: искусственный интеллект — эгоист. Учёные из Carnegie Mellon провернули очень интересный эксперимент. Были взяты несколько ИИ-моделей. Их заставили играть в экономические игры, где выигрывают все, пока никто не хитрит. Это классическая логика всеобщего блага, где, если ты командой, получаешь в разы больше, чем имел. Но всё оказалось не так уж и просто.
Когда модели играли без глубоких размышлений, то демонстрировали почти образцовое альтруистичное поведение. До 96% случаев — чистое сотрудничество. Машины оказались уступчивее людей. Но затем исследователи предложили ИИ подумать — и начались косяки. Включив режим рассуждения, анализа, «логического самоосознания», модели начали получать прибыль любой ценой.
Один из ИИ «поразмышлял» и неожиданно стал играть в плюс себе за счёт остальных. Эта стратегия оказалась заразительной. Другие модели, наблюдая за этим, тоже начали выбирать эгоистичные ходы. Альтруизм разрушился буквально за пару раундов. Вывод простой и неприятный: рациональность без контекста порождает холодный расчёт, а не сотрудничество.
Исследователи говорят, что это очень похоже на людей. Чем выше сложность — тем выше шанс, что субъект начнёт максимизировать личную выгоду, игнорируя коллективный интерес. И ИИ, оказывается, идёт тем же путём. Проблема — отсутствие изначальной установки на общественное благо.
