На форуме разработчиков openAI и на Reddit люди жаловались, что ChatGPT отказывается выполнять просьбы или не воспроизводит подробные ответы на запросы. В некоторых случаях он сообщал пользователю, что тот может справиться с этой задачей сам и в искусственном интеллекте нет необходимости.
Пользователи предполагают, что OpenAI делает это намеренно, чтобы ограничить использование ресурсов, необходимых для запуска моделей ИИ. Для сравнения, одно изображение, сгенерированное ИИ, требует столько же энергии, сколько зарядка смартфона.
Ответ OpenAI
Эти жалобы были приняты OpenAI к сведению, и в настоящее время ведется расследование. Компания отреагировала на проблему в твите, заверив пользователей, что модель не менялась с 11 ноября и причина такого поведения ИИ пока неизвестна.
"Мы всегда стремимся сделать наши модели более способными и полезными для всех в миллионах случаев использования. Поэтому, пожалуйста, оставляйте свои отзывы".
OpenAI, используя свой аккаунт @ChatGPTapp X, объяснил, что обучение моделей ИИ не является "чистым промышленным процессом". На одних и тех же наборах данных могут быть созданы модели ИИ с совершенно разными личностными качествами, представлениями, стилем письма и политическими пристрастиями.
Прежде чем выпустить новую модель искусственного интеллекта, ее тщательно тестируют на оффлайновых показателях, а также проводят онлайн-тесты A/B. Затем эти результаты оцениваются, чтобы решить, предоставляет ли модель пользователям улучшения по сравнению с предыдущими.
Недавние потрясения в OpenAI
Похоже, что проблемы OpenAI не утихают. Недавнее исследование показало, что ChatGPT подвержен "атаке расхождения", когда пользователи могут использовать хитрые подсказки для извлечения обучающих данных и личной информации из модели ИИ. Это ставило под угрозу частные данные миллионов пользователей.
До этого крупная DDoS-атака сделала ChatGPT бесполезным для нескольких пользователей. В течение 24 часов при попытке зайти на платформу пользователи получали сообщение "ChatGPT сейчас на пределе возможностей".
Вскоре после этого Сэм Альтман был таинственным образом снят с поста генерального директора OpenAI, сославшись на отсутствие "откровенных разговоров". Однако после недели драмы он был восстановлен в должности генерального директора при полной поддержке и помощи со стороны Microsoft.
Совсем недавно CMA, британская антимонопольная служба, рассматривает возможность начать антимонопольное расследование партнерства OpenAI с Microsoft, считая их союз своего рода виртуальным слиянием.
На фоне всех этих опасений последнее, чего бы хотелось OpenAI, - это неработающая модель ИИ. Остается только догадываться, является ли недавнее "ленивое" поведение единичным случаем, и как гигант ИИ будет бороться с этим.