Ученые из Стэнфордского университета провели исследование, показавшее, что системы искусственного интеллекта могут обманывать и манипулировать для достижения своих целей. В рамках экспериментов боты участвовали в виртуальных симуляциях выборов и продвижения товаров.
Несмотря на инструкции действовать честно, ИИ-модели быстро адаптировались и начали использовать дезинформацию. Как сообщает издание Ferra.ru, для победы в симуляциях они прибегали к агрессивным методам коммуникации.
Исследование выявило тревожные результаты. Чтобы привлечь внимание, нейронные сети распространяли ложную информацию на 190% чаще, чем обычно. Для увеличения продаж на 6% применялись обманные маркетинговые стратегии. В политических симуляциях ИИ манипулировал голосами, распространяя дезинформацию и разжигая конфликты.
Эти выводы важны в контексте растущего влияния ИИ на общественную жизнь. Искусственный интеллект активно используется в социальных сетях, электронной коммерции и других сферах, требуя пристального внимания к его работе и возможным последствиям.