«Если думать и рассуждать — это одно и то же, то модели не умеют рассуждать. Если мы поставим задачу формата "Вася — отец Коли, а Петя — отец Васи; кем Петя приходится Коле?", то модель даст правильный ответ, но не благодаря способности рассуждать. Человек бы отвечал, отталкиваясь от абстрактного понимания взаимоотношения субъектов. Модель просто оценит «форму» и выдаст наиболее вероятный, по ее оценке, правильный ответ. Когда задача такого типа оказывается немного более запутанной, модель очень часто ошибается», — объясняет кандидат физико-математических наук, сотрудник London Institute for Mathematical Sciences Михаил Бурцев. Как работают языковые модели и стоит ли их бояться: https://youtu.be/2Up5mazSCRA
«Если думать и рассуждать — это одно и то же, то модели не умеют рассуждать. Если мы поставим задачу формата "Вася — отец Коли, а Петя — отец Васи; кем Петя приходится Коле?", то модель даст правильный ответ, но не благодаря способности рассуждать. Человек бы отвечал, отталкиваясь от абстрактного понимания взаимоотношения субъектов. Модель просто оценит «форму» и выдаст наиболее вероятный, по ее оценке, правильный ответ. Когда задача такого типа оказывается немного более запутанной, модель очень часто ошибается», — объясняет кандидат физико-математических наук, сотрудник London Institute for Mathematical Sciences Михаил Бурцев.
Как работают языковые модели и стоит ли их бояться: https://youtu.be/2Up5mazSCRA
