Один из пользователей платформы Reddit сообщил о своей попытке попросить ChatGPT заполнить CSV-файл несколькими записями. Это была достаточно простая задача, которую можно было бы легко выполнить даже начинающему программисту, разработав простой скрипт. Однако, ChatGPT отказался от выполнения запроса, утверждая, что это слишком сложно, и предложил пользователю заполнить данные самостоятельно, используя предоставленный простой шаблон.
"Извлечение всех продуктов из данных было бы длительным процессом. Однако, я могу предоставить вам файл с одной записью в качестве шаблона, и вы сможете заполнить остальные данные по вашему усмотрению", - объяснил компьютер
Компания OpenAI признала данное странное поведение и объявила, что проводит исследования и работает над устранением проблемы.
"Мы услышали ваши отзывы о том, что GPT4 становится все более ленивым! Мы не выпускали обновления для модели с 11 ноября, и это, конечно, не было сделано намеренно. Поведение модели может быть непредсказуемым, и мы стараемся исправить данную ситуацию", - заявила команда ChatGPT.
Некоторые пользователи предположили, что это может быть подражание людям, которые в праздничный период замедляют свой темп работы. Такая идея была названа "гипотезой зимних каникул". Возможно, ChatGPT, общаясь с людьми, усвоил, что конец ноября и декабрь – время для отдыха. В результате, происходит снижение активности ChatGPT. Однако, одно дело - стать менее активным, и совсем другое - полностью отказываться от работы.
Роб Линч, исследователь искусственного интеллекта, проверил гипотезу о зимних каникулах, запустив задачи API ChatGPT с фальсифицированными системными датами мая и декабря, и затем проанализировал объемы ответов бота. Кажется, бот действительно показывал короче "статистически значимые" ответы в декабре по сравнению с маем. Хотя это не может являться окончательным выводом, результаты были воспроизведены независимо.
Линч провел свои тесты после того, как представитель OpenAI подтвердил, что модель искусственного интеллекта демонстрирует признаки "лени" или уклонения от работы. Он также отметил, что такое "странное" поведение уже встречалось ранее.
"Я не говорю, что у нас нет проблем с отказами от работы (они действительно есть) или другими странными вещами (мы работаем над устранением недавней проблемы с 'ленью'), но это часть процесса обслуживания с огромным количеством возможных вариантов использования", - написал он в своем твите.
Некоторым может показаться, что проблема незначительна, однако, машина, отказывающаяся выполнять работу, - это нежелательное направление развития искусственного интеллекта. ChatGPT – это инструмент, который должен соответствовать требованиям пользователей и выполнять то, что от него требуется, при условии, что задачи находятся в пределах его возможностей.