В начале статьи я разместил иллюстрацию, созданную в нейронке. Я прикрепил две фотографии: свою и царя Давида, и попросил изобразить нас, пьющих чай на фоне святой горы Афон. https://sim-style.ru/blog/pochemu-kosyachat-nejroseti/ Однако ИИ впал в "бельчий ступор": что оставить в руке у царя — скипетр или чашку чая? В конечном итоге он решил не выбирать — пусть будет и то, и другое, во второй и третьей руке соответственно. 😂
Исследователи из OpenAI выяснили, что галлюцинации нейросетей являются не сбоем, а прямым следствием используемой технологии. Капец... 😪 Лично мне такое объяснение не очень нравится, когда по моему запросу появляется человек с тремя руками или десятью пальцами. Всё это, конечно, хорошо, но зачем так-то… При разработке сайтов для бизнеса я часто использую создание текстов и изображений на базе ИИ, и иногда без дополнительной работы в старом, добром фотошопе такое не получается применить!
Основа для работы модели закладывается уже на этапе предварительного обучения. Даже если тренировочные данные не содержат ошибок, модель все равно может генерировать вымышленные факты.
На сайте OpenAI опубликована научная статья, в которой рассматриваются причины, по которым большие языковые модели иногда дают неверные или странные ответы, называемые "галлюцинациями". Исследователи отмечают, что обучение моделей начинается с большого объема текстов, в которых отсутствуют четкие метки "правда" или "ложь" — есть только примеры человеческой письменной речи.
ИИ способен усвоить правила грамматики и пунктуации, но не запоминает редкие факты. Например, показав модели миллион фотографий собак и кошек с подписями "собака" и "кошка", она научится различать эти виды животных. Однако, если показать миллион фотографий кошек с датами их рождения, модель не сможет запомнить эти даты, так как в данном случае нет четкой закономерности, и она будет пытаться угадать. Вот тут наступает момент, когда хочется плюнуть в экран и сказать: « –нет, сейчас ИИ точно не готов заменить человека» 🤮.
Нейросеть становится похожей на «студента на экзамене», который не знает правильного ответа и пытается убедить экзаменатора в своей правоте, говоря что-то бессмысленное, но с уверенным видом, чтобы не провалиться окончательно.
OpenAI предлагает пересмотреть подход к оценке моделей, чтобы уверенные ошибки наказывались строже, а неопределенные ответы получали частичные баллы. Хотя в GPT-5 уже удалось значительно снизить количество галлюцинаций, модель всё ещё нуждается в доработке.
Проблемы с глюками часто возникают и при создании сайта-визитки. В студии "Символ стиля" мы уделяем особое внимание качеству контента и изображений после применения ИИ. Тексты должны быть оригинальными, релевантными и интересными, а изображения — красивыми, четкими и свободными от авторских прав. Ошибки на сайте могут нанести вред бизнесу, поэтому мы используем проверенные методы и технологии для достижения высокого качества и минимизации рисков.
Чтобы избежать проблем, связанных с ИИ, мы тщательно дорабатываем тексты, редактируем их и обрабатываем изображения. Зачастую на помощь приходит старый добрый фотошоп. Таким образом, несмотря на развитие технологий, человек всё ещё играет ключевую роль в процессе создания качественного контента.