Модель разработанная исследователями из Берлинского университета имени Гумбольдта, представляет интерес с точки зрения исследования предвзятости и стереотипов людей при помощи ИИ, но она имеет свои ограничения, и её результаты не всегда могут соответствовать реальным предвзятостям или стереотипам.
Модель команды, получившая название OpinionGPT, представляет собой доработанный вариант Llama 2 от Meta, системы искусственного интеллекта, аналогичной по возможностям ChatGPT от OpenAI или Claude 2 от Anthropic.
Используя процесс, называемый тонкой настройкой на основе инструкций, OpinionGPT якобы может реагировать на подсказки, например если бы человек был представителем одной из групп: американец, немец, латиноамериканец, ближневосточник, подросток, кто-то старше 30, пожилой человек, мужчина, женщина, либерал или консерватор и т.д.
Основной проблемой этой модели является то, что она настроена на данных с Reddit, а именно с субреддитов, которые могут не являться репрезентативными для общества в целом. Это значит, что результаты OpinionGPT могут отражать представления и мнения пользователей Reddit в определенных сообществах, но не обязательно соответствовать реальным предвзятостям или стереотипам, существующим в обществе.
Кроме того, модель генерирует текст на основе инструкций, и эффективность её работы зависит от точности этих инструкций. Если инструкции недостаточно точны или субъективны, то результаты могут быть искажены.
Таким образом, OpinionGPT может быть интересным инструментом для исследования стереотипов и предвзятостей, но важно анализировать его результаты с учетом его ограничений и контекста данных, на которых он был обучен и настроен.