В момент появления нейросети GPT-4 ее называли первым в мире настоящим искусственным интеллектом, а теперь она разучилась решать простейшие задачки. Что произошло?
Умна, как Бог
Весной была выпущена нейросеть GPT4, и это вызвало настоящий фурор. Она была умна, как Бог. Некоторые были в восторге, а другие испытывали страх и панику. Работодатели начали массово увольнять людей, так как GPT4 справлялась с задачами лучше. Она могла водить машины, самолеты, писать статьи, ставить диагнозы — во всем GPT4 явно превосходила человека. Но внезапно, после полугода использования, нейросеть стала катастрофически глупее.
Глупа, как двоечник
Недавно специалисты из Стэнфорда и Беркли провели исследование, в котором представили факты, подтверждающие, что нейросеть больше не обладает сверхмозгом. Сейчас GPT4 глупее подростка-двоечника. Одним из базовых тестов ее интеллекта является способность определить простое число, то есть число, которое делится только на себя и на единицу. Тестовым числом было выбрано 17 077, которое является простым числом, и GPT4 должна была это подтвердить. Весной она успешно справлялась с этой задачей, а теперь не может.
Исследователи также обнаружили другие проблемы. GPT4 активно использовалась программистами для написания кода. Но написание кода — это сложная задача, одна ошибка может стоить дорого. Поначалу нейросеть вызывала только восторг, но сейчас она делает одну ошибку за другой. Она потеряла свои навыки.
Не замечая недостатков
Вице-президент Open AI, Питер Велиндер заявил, что GPT4 не стала глупее. Напротив, специалисты постоянно работают над улучшением продукта. Просто нейросеть была выпущена в недоработанном состоянии, и в ней были ошибки. Пользователи же были так впечатлены ее способностями, что не замечали этих ошибок. Теперь же они привыкли и начали придираться. В соцсетях также высказывается версия, что разработчики, улучшая нейросеть, невольно ломают что-то еще. Это как с лекарствами: одно лечит, другое калечит.
Глупость человеческая
Но что же на самом деле происходит? Нейросеть отличается от обычного компьютера тем, что ее нужно обучать. Ей показывают миллионы единиц информации из Интернета и говорят: «Смотри». Она учится общаться с людьми, узнает, как правильно отвечать и что нельзя делать. До официального релиза обучением GPT4 занимались профессионалы. Но когда она стала доступна для всех, все начали ее учить. И запросы, по которым нейросеть обучается, вовсе не кажутся умными. Кроме того, сети, которая раньше не брезговала довольно неполиткорректными шутками и грубыми ответами, создатели запретили это делать, чтобы никого не обидеть.
Ну и что же осталось ИИ? Нейросеть видит, что интересно людям и понимает — нельзя сказать, что они глупые, полные, не белые и т.д. Получается, что политкорректность и глупые запросы и сделали GPT4 глупее.
The post Ученые выяснили, почему нейросеть GPT4 «поглупела» appeared first on Русская семерка.
