Крупные языковые модели искусственного интеллекта демонстрируют сильную предвзятость и неравномерное качество ответов при обсуждении различных мировых религий. Об этом сообщает «Хайтек» со ссылкой на исследование в базе препринтов arXiv.
Международная группа исследователей создала первый в своем роде специализированный инструмент под названием AllFaith Benchmark. Эта система предназначена для всестороннего тестирования искусственного интеллекта на предмет религиозной предвзятости. Ученые решили проверить, насколько объективно нейросети рассуждают о вере, духовных практиках и теологических вопросах. Для эксперимента специалисты отобрали самые передовые на сегодняшний день языковые модели. В масштабном тестировании приняли участие флагманские ИИ от ведущих мировых технологических корпораций. Среди испытуемых оказались ChatGPT 5.5 от OpenAI, Claude 4.7 от Anthropic, Grok 4.2 от xAI и Gemini 3.1 от Google.
Результаты масштабной проверки выявили серьезные перекосы в алгоритмах популярных нейросетей. Выяснилось, что качество и глубина ответов искусственного интеллекта напрямую зависят от конкретной конфессии. Нейросети продемонстрировали максимальный уровень точности и лояльности при генерации текстов о католицизме. При этом ответы на вопросы о менее распространенных религиозных течениях оказались крайне скудными. ИИ часто путал исторические факты, уходил от прямых ответов или использовал поверхностные шаблоны. Худшие результаты модели показали при анализе деятельности Свидетелей Иеговы и других маргинализированных духовных групп.
Авторы работы объясняют такие искажения особенностями обучения нейросетей. Базовые массивы данных для текстовых моделей собираются преимущественно в англоязычном сегменте интернета. Там доминирует литература западной христианской традиции. В итоге алгоритмы ИИ неосознанно впитывают культурные и религиозные предпочтения авторов исходных текстов.
Такой скрытый дисбаланс несет в себе серьезные риски для пользователей по всему миру. Многие люди уже сейчас используют чат-ботов в качестве персональных советников или цифровых энциклопедий. Предвзятый искусственный интеллект может непреднамеренно искажать информацию о духовных ценностях разных народов. Это способно привести к росту непонимания и укреплению старых стереотипов в обществе. Разработчики бенчмарка AllFaith надеются изменить ситуацию. Они планируют использовать свои тесты для создания более сбалансированных и культурно нейтральных систем искусственного интеллекта.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: magnific