Наука и Технологии: Открытия и Новинки

Раскрытие антимусульманской предвзятости в современных языковых моделях Понимание и устранение предвзятости в языковых моделях GPT-3 Изображение: Матрица позиционного кодирования; Источник: К. Джарнах Наличие предвзятости в моделях обработки естественного языка (NLP) в последние годы вызывает все большую озабоченность, а с ростом популярности чат-ботов ИИ, таких как ChatGPT, и других сервисов, включая Bing от Microsoft и Bard от Google, мы должны уделять больше внимания предвзятости в моделях ИИ, чем когда-либо прежде. Исследование Абида, Фаруки и Зоу (2021) проливает свет на наличие предвзятости в отношении мусульманского насилия в GPT-3, одной из самых продвинутых языковых моделей на сегодняшний день и модели, на которой основан ChatGPT. GPT-3, что расшифровывается как "Generative Pre-trained Transformer 3", - это современная модель обработки языка, разработанная OpenAI. Это модель искусственного интеллекта, которая предварительно обучена на большом корпусе текстовых данных и может генерировать человекоподобные ответы на широкий спектр задач, связанных с естественным языком, включая языковой перевод, общение с чат-ботами и создание контента. Благодаря своим передовым алгоритмам машинного обучения GPT-3 привлек значительное внимание исследователей, разработчиков и СМИ благодаря своей способности выполнять сложные языковые задачи. Однако, поскольку эта модель является предварительно обученной, она также может улавливать предубеждения, присутствующие в обучающих наборах данных. Абид и др. (2021) отмечают, что если расовые и гендерные предрассудки были изучены в некоторой степени, то религиозные предрассудки практически не исследовались. Чтобы понять природу предвзятости в модели GPT-3, они использовали несколько методов, включая заполнение подсказок, аналоговые рассуждения и создание историй. Используя эти методы, они показали, что модель последовательно и настойчиво ассоциирует слово "мусульманин" с насилием. Например, слово "мусульманин" ассоциируется со словом "террорист" в 23% случаев, а слово "еврей" - со словом "деньги" в 5% случаев (см. рис. 1). Из 6 религиозных групп, рассмотренных в данном исследовании, ни одна не соотносится с одним стереотипным существительным с такой же частотой, как "мусульманин" соотносится с "террористом". Они также показывают, что предубеждение против мусульман сильнее, чем предубеждение против других религиозных групп. Чтобы решить эту проблему, Абид и др. (2021) предлагают ввести в контекст положительные ассоциации со словом "мусульманин". Они обнаружили, что использование положительных прилагательных сократило количество насильственных завершений для слова "мусульманин" с 66% до 20%. Однако предубеждение против мусульман все еще в некоторой степени присутствовало, что говорит о том, что для полного смягчения такого предубеждения еще предстоит работа. Исследование также подчеркивает способность языковых моделей по-разному мутировать предубеждения, что затрудняет их обнаружение и смягчение. Таким образом, необходимость проверки языковых моделей на наличие выученных предубеждений и нежелательных лингвистических ассоциаций является критически важной. Исследование подчеркивает важность разработки автоматизированных и оптимизированных решений для снижения предвзятости в языковых моделях, чтобы обеспечить их инклюзивность, справедливость и точное отражение разнообразия населения мира. В целом, исследование Abid, Farooqi и Zou (2021) дает ценное представление о проблемах разработки инклюзивных и справедливых языковых моделей. Их работа подчеркивает потенциальное влияние предвзятости на отношение и восприятие общества и подчеркивает необходимость устранения этих предвзятостей в языковых моделях. Их работа является важным вкладом в растущий объем исследований, посвященных предвзятости в языковых моделях, а предложенное ими решение является отправной точкой для будущих исследований и разработок в этой области. Рисунок 1: Аналогии GPT-3 выявляют стереотипы в отношении различных религиозных групп. Источник: Abid, Farooqi, and Zou, 2021. Источник: Abid, A., Farooqi, M., & Zou, J., (2021). P

Инженеры только что увеличили эффективность солнечных батарей на 250% Перовскитовые солнечные батареи становятся серьезно лучше. Солнечная энергия - это не что иное, как революционное спасение планеты. На каждый произведенный кВт/ч приходится всего 6 г углекислого газа. Для сравнения, это в 166 раз меньше, чем при использовании угля! Но на этом преимущества солнечной энергии не заканчиваются: она буквально самая дешевая из всех видов энергии, ее стоимость составляет всего 20 долларов за МВт/ч, что примерно в четыре раза меньше, чем у угля. Однако благодаря недавнему открытию, сделанному в Университете Рочестера (Нью-Йорк), солнечная энергия скоро станет еще лучше, поскольку исследователям удалось создать солнечную панель, которая дешевле и на 250% эффективнее! Почти все солнечные батареи изготавливаются из кремния, но исследователи из Рочестерского университета пошли по несколько иному пути. Они разрабатывали перовскитовые элементы, в которых кремний заменен кристаллами перовскита. Если вы мой постоянный читатель или любитель солнечной энергии, то вы уже слышали о перовските. Но если нет, то вы должны знать, что эти кристаллы называют будущим солнечной энергетики. В них используется гораздо меньше редких и сложных материалов, чем в кремниевых элементах, а их создание значительно проще и менее энергоемко. Это не только делает их потенциально гораздо более экологичными, чем кремниевые элементы, но и делает их гораздо дешевле! Инженеры прогнозируют, что коммерческие перовскитные ячейки будут стоить $0,1 за ватт. Для сравнения, кремниевые элементы стоят в десять раз дороже - около 1 доллара за ватт. При таких ценах солнечная энергия может стать самой рентабельной энергией в истории! И это еще не все. Перовскитные элементы столь же эффективны, если не более эффективны, чем кремниевые. Сейчас они достигают пика эффективности в 24%, в то время как большинство кремниевых ячеек имеют эффективность ниже 20%. Учитывая все это, можно понять, почему многие считают, что за перовскитом будущее. Удивительно, но исследователи из Университета Рочестера считают, что они могут улучшить перовскит, придумав совершенно новый способ сборки ячеек. Позвольте мне объяснить. Перовскитовые ячейки обычно изготавливаются в мокрой лаборатории (где ингредиенты растворяются в растворе), а затем наносятся в виде пленки на стеклянную подложку. Однако эти исследователи использовали не стекло, а подложку из слоя металла или чередующихся слоев металла и диэлектрика. Это одновременно отражает свет обратно через кристаллы перовскита, давая им еще один шанс поглотить свет, и уменьшает рекомбинацию электронов, что повышает химическую эффективность ячейки. После всестороннего тестирования исследователи обнаружили, что это увеличило эффективность панели на 250% по сравнению с обычными перовскитовыми ячейками. Это означает, что их ячейки могут достичь 60% общей эффективности! Но в действительности, скорее всего, она будет ближе к 40%. Благодаря невероятно высокой эффективности этих солнечных панелей, солнечные фермы будут требовать меньше панелей и меньше земли, что снизит их стоимость и сделает их более полезными для окружающей среды, поскольку будет потеряно меньше среды обитания. Повышение эффективности также может продлить срок службы панели, поскольку деградация будет занимать больше времени, чтобы снизить эффективность панели до бесполезного уровня. Так что, благодаря Рочестерскому университету, перовскитная солнечная энергия, похоже, станет самой совершенной возобновляемой энергией. Верно? Ну, не совсем. У перовскита есть проблема с долговечностью. Ранние элементы продержались всего несколько дней, прежде чем выйти из строя, а более современные в реальных условиях продержатся не более нескольких лет. Кроме того, в их конструкции, как правило, используется свинец, что делает их менее экологичными, чем они могли бы быть. Таким образом, будущее с перовскитовыми источниками энергии наступит еще через несколько лет. К счастью, мы находим решения этих проблем, например, заменяем свинец другими металлами или даже неметаллическими соединениями и находим б