Сегодня, всё больше и больше людей, полагаются на ответы Искусственного Интеллекта. Причём во всём: от рецепта борща до решения сложных тестов. Это в принципе своём ошибка - человек быстро теряет способности мыслить и рассуждать, если не нагружает головной мозг по полной программе. Но на этом заострять внимание не будет - не в том тема статьи. Суть в том, что сегодня научное сообщество серьёзно обеспокоено...
... Стремительной деградацией самих ИИ.
Популярность нейросетей объяснима. В начале сего процесса хитрые властители сайтов и форумов сами испортили поисковую выдачу. Грубо говоря, они в совершенстве овладели приёмами и способами, которые позволяли на любой запрос на первые позиции поисковой выдачи выносить сущую ересь. Нейросети, в свою очередь, упрощали задачу - отфильтровывали мусор и выдавали уже готовый ответ. И люди... привыкли...
Низкокачественный контент как основа деградации ИИ
На чём обучаются статьи? Если отбрасывать какие-то узкоспециализированные модели, то на той же самой поисковой выдаче. То бишь читают те же самые некачественные материалы, что и человек, после чего выдают искажённый, неправдивый и напутанный материал.
Это подтвердили исследователи из Техасского университета в Остине, которые прогнали обучение двух моделей - Qwen и Liama 3 на 1 миллионе некачественных материалов.
Надо отметить, что Qwen заточен под рассудительные и человеческие ответы, а Liama 3 на инструкции. Но и первая, и вторая модель, напитавшись неверностями и ложными сенсациями, начали пропускать логические шаги и выдавать целую плеяду неправильных ответов. В том давать неверные ответы на простейшие тестовые вопросы с заранее определёнными вариантами ответов.
Не только человек может деградировать
По итогу этого эксперимента Liama 3 изменилась настолько, что начала проявлять признаки нарциссизма и полностью изменила своё поведение в худшую сторону. Qwen вообще начал блуждать в трёх соснах и сыпать всякими небылицами.
Примечательно, что подобная деградация наблюдается и у нормальных, общедоступных нейросетей. Просто раньше считалось, что правильные промты и периодическая чистка/обновления снимают проблему. А нетушки - не снимают. То есть декоративные исправления есть, но в своих фундаментальных знаниях нейронка уже заблудилась.
Неутешительные выводы
Выводы неутешительные - всё больше пользователей сталкиваются с неверной выдачей информации. И процесс, походу, неисправим на данном этапе. Только новые ИИ-модели с углублённой и ручной фильтрацией базовой информации способы хоть как-то изменить печальное будущее деградации нейронок. Пока же лидеры на рынке стремительно тонут в гневных отзывах и оценках.
У этой новости есть и вполне земное отражение - IT-компании начали возвращать программистов на свои рабочие места. На данный момент вернулось около 5% специалистов, которых сократили по причине автоматизации рабочего места посредством подключения нейросети. Оказалось, что работодатели и акулы бизнеса просто повелись на обещания разработчиков. А нейросети способны решать только что-то мелкое и ходовое, в то время, как с серьёзной задачей, может справиться только живой специалист.
Не вредничай! Подпишись на канал Размеренность бытия! Или хотя бы поставь лайк и вбей комментарии. Этим лично ты поможешь проекту. А канал - лёгкий, спокойный и полезный. Он тебе ещё пригодится!