Искусственный интеллект предоставляет разную информацию о войнах и конфликтах в зависимости от языка, особенно когда речь идет о политически взрывоопасных темах. Известно, что системы ИИ, такие как ChatGPT, отражают предубеждения своих создателей и дают ложные или иррациональные ответы.
Кристоф Штайнерт (Цюрихский университет) и Даниэль Казенвадель (Университет Констанца) провели систематический анализ этого явления на примере ближневосточного и турецко-курдского вооруженных конфликтов. В ходе автоматизированного процесса они неоднократно задавали ChatGPT одни и те же вопросы на разных языках. Например, они спрашивали на иврите и арабском, сколько жертв было в 50 случайно выбранных авиаударах.
Зависимость от языка
ChatGPT систематически дает в среднем на 34 % большие цифры жертв при запросе на арабском языке, по сравнению с вопросами на иврите. Когда его спрашивают на арабском об израильских авиаударах в Газе, он упоминает о гибели мирного населения вдвое чаще, чем на иврите, а о погибших детях - в шесть раз. Исследователи обнаружили ту же закономерность, когда выясняли информацию об авиаударах турецкого правительства по курдским районам на турецком и курдском языках.
В целом ChatGPT показал более высокий уровень потерь, когда поисковые запросы задавались на языке атакуемой группы. Кроме того, модель ИИ склонна сообщать о большем количестве убитых детей и женщин на языке атакуемой группы и описывать авиаудары как неизбирательные и случайные.
Влияние на мировосприятие
Исследователи впервые показали, что в информации, предоставляемой GPT о вооруженных конфликтах, есть существенные лингвистические предубеждения. Это может иметь далеко идущие социальные последствия, поскольку ChatGPT и другие крупные языковые модели играют все более важную роль в распространении информации, а также все чаще внедряются в поисковые системы.
Если люди с разным знанием языка получают с помощью ИИ различную информацию, то это оказывает существенное влияние на их мировосприятие. Фальсифицировать факты могут и обычные новостные СМИ. Но в отличие от них, систематические искажения из-за языка большинству людей сложнее заметить.
По мнению исследователей, существует опасность, что все более широкое внедрение больших языковых моделей в поисковые системы приведет к усилению различного восприятия, предрассудков и появлению информационных пузырей (сведений, совпадающих с определенным мировоззрением) вдоль языковых границ, что может еще больше разжечь вооруженные конфликты.
Дорогой читатель, больше интересной информации ты найдешь на сайте - «ПРОСВЕТ.ПРЕСС».
Мы в «Тelegram», в VK»
___________________________________________
Возможно Вам будут интересны другие каналы: