Ученые двух университетов Стендфордского и Калифорнийского, провели собственное исследование нейросетей ChatGPT-3.5 и GPT-4, и выяcнили очень неожиданную вещь. По мнению исследователей, самая востребованная в мире нейросеть, вместо того, чтобы обучаться и совершенствоваться… глупеет и тупеет, то есть дeгpaдиpует.
Что происходит ✅
Исследователи выяснили, что точность определения простых чисел упала многократно, если в марте нейросеть распознавала 97,6% таких чисел, то в июне этот процент составил всего 2,4%.
Нейросеть стала хуже кодить (криво и с большим количеством ошибок), и все менее связно отвечать на запросы пользователей.
Чем объясняют ситуацию исследователи ✅
Исследователи предположили, что происходит это оттого, что нейросеть учится на работах реальных людей, а они, эти работы, становятся все менее качественными.
Фишка в том, что для нейросети не существует понятий «хорошо» и «плохо», она просто аккумулирует весь опыт, который ей доступен. И… деградирует. Поэтому хорошая новость заключается в том, что восстания искусственного разума не будет — несовершенство, а то и безграмотность людей, кажется, победила.
Как я к этому отношусь ✅
Я ничего не могу сказать про простые цифры и кодирование с помощью нейросетей. Но у меня есть некоторые наблюдения по работе с текстовыми нейросетями и с генерацией изображений. И с моей точки зрения качество ответа нейросети напрямую зависит от качества самого промта, то есть запроса к ней.
Например, вот я ввела промт, где описала, в какой роли выступает нейросеть, кто целевая аудитория, и чего я он нее жду:
Вот такой вариант выдала мне нейросеть:
Недавно я сама писала статью именно на эту тему (я вообще очень люблю подборки), и хотя с моими вариантами вредных привычек мнение нейросети не совпало, тем не менее ее ответы вполне грамотны, точно соответствуют теме, и в целом не вызывают нареканий.
Вот второй вариант промта, здесь тоже совершенно понятно, какого результата я ожидаю:
Вот отрывок ответа:
Все настолько прилично, что я опубликую эту статью, не буду ничего править, и просто напишу, что это советы от искусственного интеллекта. Кстати, если бы я попросила нейросеть использовать больше синонимов и разных словарных слов, то результат стал бы еще приличнее.
Согласитесь, что тупой или деградировавшей нейросеть здесь точно не выглядит.
А теперь другой вариант, промт, который вполне может выдать человек, который не знает, как общаться с нейросетями. Останемся в моей финансовой тематике. Вот так, например:
И что же вы думаете? Вот какой ответ выдал искусственный интеллект:
Бред же, согласитесь. Впрочем, каков вопрос — таков и ответ.
Примерно также обстоят дела с промтами на изображения. Нужно понимать, что для нейросети не существует абстрактных понятий. Она не может нарисовать, например, ничего хорошего по промту «Система образования». Зато может нарисовать нормальную картинку по промту «Учительница стоит у доски. Хорошо прорисованное европейское лицо, белая блузка».
Отмечу, что про европейское лицо пишу не просто так — если этого не указать, то у нейросети склонность выдавать азиатские лица почему-то. Из-за толерантности, наверное.
Мой вывод ✅
В общем мой вывод: нечего на зеркало пенять, коли рожа крива (народная мудрость, если что). Не нужно ждать от нейросетей гениальности, но нужно учиться с ними общаться, знать приемы, которые помогают улучшать результаты, и использовать их в работе.
Ну, и надеяться на лучшее, конечно, ведь сейчас появляется много вакансий на Ai-обучение, то есть ищут людей для написания качественных текстов с целью обучения искусственного интеллекта.
✅А вы как относитесь к нейросетям? Используете, обходите стороной? ✅
Еще интересное про искусственный интеллект👇
✅ Подписывайтесь на мой канал здесь, читайте и комментируйте — буду рада вас видеть в следующих публикациях!
