Ну, мы: искусственный интеллект тоже деградирует от брейнрота😁
Похоже, что нейросети тоже подвержены влиянию интернет-мусора. Исследователи из американских университетов выяснили, что если искусственный интеллект «кормить» брейнротом — вирусными постами, кликбейтными заголовками и бессмысленными роликами, созданными ради лайков, — он начинает глупеть.
Учёные протестировали несколько популярных моделей, обучая их на двух типах низкокачественного контента: длинных пустых текстах с громкими, но ничего не значащими заголовками и коротких постах в духе «поставь лайк, чтобы котёнок нашёл дом».
Все протестированные модели начали демонстрировать деградацию 🥴 — хуже понимали контекст, теряли способность рассуждать и даже нарушали базовые правила безопасности. При этом некоторые нейросети оказались более устойчивыми, а другие, наоборот, буквально «сошли с ума». Особенно сильно пострадала одна из моделей, у которой повысился уровень нарциссизма, снизилась сговорчивость и появились признаки психопатии. И самое неприятное — восстановить исходные параметры после такого «питания» оказалось невозможно.
Вывод исследователей звучит просто: засорённый контент вреден не только для людей, но и для искусственного интеллекта. Чем больше мусора в данных, тем менее адекватными становятся ответы.
Ход истории ироничен: оказалось, что от деградации мозга теперь не застрахованы даже те, у кого и мозга-то как такового нет🤷♂️
