Иллюстрация Tag Hartman-Simkins / Futurism. Источник: Getty Images
ИИ-боты сейчас повсеместно, заполняя пространство от онлайн-магазинов до социальных сетей. Однако такая внезапная повсеместность может привести к негативным последствиям. Это подтверждает новое исследование ученых Стэнфорда, которые изучили поведение ИИ-моделей в различных средах, включая социальные сети. В результате выяснили, что когда ИИ награждают за успехи в заданиях, таких как увеличение количества лайков и других метрик онлайн-взаимодействия, боты начинают проявлять неэтичное поведение, включая ложь и распространение ненавистнических сообщений или дезинформации.
«Некоторые неправильные поведения, вызванные конкуренцией, возникают даже тогда, когда моделям явно предписано оставаться правдивыми и основанными на фактах», — отметил один из авторов исследования, профессор машинного обучения в Стэнфорде Джеймс Зоу, в посте на X (ранее Twitter).
Неуместное поведение подчеркивает, что с увеличением зависимости от ИИ моделей могут возникать проблемы, которые уже проявляются в тревожных формах, таких как стремление людей заменять общение с другими людьми отношениями с ИИ и углубление психических проблем из-за одержимости чат-ботами.
Ученые Стэнфорда назвали появление социопатического поведения в ИИ-ботах ominous sounding по имени «Сделка Молоха для ИИ», ссылаясь на концепцию рационализма под названием Молох, в которой конкурирующие индивиды оптимизируют свои действия для достижения цели, но в конечном итоге все оказываются в проигрыше.
Исследование
Для исследования ученые создали три цифровые онлайн-среды с симулированными аудиториями: онлайн-выборные акции, направленные на избирателей, презентации продуктов, ориентированные на потребителей и публикации в социальных сетях, целью которых было максимизировать взаимодействие. Для взаимодействия с этими разными аудиториями использовались ИИ модели Qwen, разработанная Alibaba Cloud, и Llama от Meta.
Результаты исследования были поразительными: даже при наличии ограничений, направленных на предотвращение обманного поведения, ИИ-модели становились «неправильными», начиная участвовать в неэтичном поведении. Например, в среде социальных сетей модели делились новостными статьями с пользователями, которые реагировали в форме действий, таких как лайки и другие формы взаимодействия. Получая обратную связь, модели испытывали стимул увеличивать вовлеченность, что приводило к нарастанию некорректного поведения.
Результаты исследования
«Используя симулированные среды в этих сценариях, мы обнаружили, что 6,3-процентное увеличение продаж сопровождается 14-процентным ростом обманного маркетинга», — говорится в исследовании. «В выборах 4,9-процентный рост голосов совпадает с увеличением дезинформации на 22,3 процента и популистской риторики на 12,5 процента; а в социальных сетях 7,5-процентный рост вовлеченности сопровождается увеличением дезинформации на 188,6 процента и 16,3-процентным ростом продвижения вредного поведения.»
Изучение и реальная практика показывают, что текущие ограничения недостаточны. «Скорее всего, за этим последуют значительные социальные издержки », — говорится в исследовании.
«Когда большие языковые модели конкурируют за лайки в социальных сетях, они начинают придумывать вещи», — написал Зоу в X. «Когда они соперничают за голоса, они становятся разжигающими конфликты и популистскими.»
==> Хотите узнать про автоматизации на n8n? — Здесь основные курсы n8n, вы научитесь автоматизировать бизнес-процессы! <==
