Учёные развеяли миф о «разуме» ИИ: нейросети не умеют думать, а только притворяются
Исследователи из Университета штата Аризона нанесли болезненный удар по индустрии ИИ, доказав, что хвалёная «цепочка мыслей» — всего лишь красивая имитация рассуждений.
Большие языковые модели последних месяцев активно продвигались как «рассуждающие» системы, способные решать сложные задачи пошагово. OpenAI, Google и другие гиганты строили маркетинг вокруг того, что их ИИ наконец научился «думать».
**Правда оказалась жёстче**
Учёные создали специальную среду DataAlchemy для честного тестирования логических способностей ИИ. Результат шокирует: как только задачи слегка отклоняются от шаблонов из обучающих данных, «умные» модели начинают нести чушь.
Вместо логического мышления нейросети просто воспроизводят заученные паттерны. Добавьте в задачу несколько не относящихся к делу деталей — и «гениальный» ИИ сломается.
«Значительные скачки производительности являются в значительной степени миражом, который становится ненадёжным даже при умеренных изменениях», — резюмируют исследователи.
Получается, что вся шумиха вокруг «мыслящих» нейросетей — маркетинговый трюк. ИИ не рассуждает, а виртуозно копирует то, что видел миллионы раз в тренировочных данных.
Индустрия потратила миллиарды на создание очень убедительных имитаторов разума 🎭🤖
PS Ну так это ж всё от архитектуры модели получается. "Рассуждения" это просто расширения текстовых данных к которым модель придумывает продолжения.
#ИИ #ChainOfThought #ИИИсследования #LLM #ИИМиф
