Антропоморфизм - перенесение образа и свойств человека на нечеловеческие объекты - набирает обороты среди исследователей технологий, особенно когда речь идет о чат-ботах с искусственным интеллектом.
Исследователи считают, что технологии стремительно меняют привычные формы, все больше приобретая антропоморфные черты. Но должны ли мы относиться к технологиям как к людям? Peepo/Getty Images
В академических исследованиях все чаще встречается антропоморфизация технологий - тенденция, которая может ввести общественность в заблуждение относительно того, насколько мощным на самом деле является искусственный интеллект и другие передовые достижения.
Майра Ченг и ее коллеги из Стэнфордского университета (Калифорния) проанализировали содержание более 655 000 научных публикаций, вышедших в период с мая 2007 года по сентябрь 2023 года, а также заголовки примерно 14 000 новостных статей, в которых цитировались некоторые из этих работ. Они оценили, насколько часто в каждом тексте используются личные местоимения, такие как "он" и "она", вместо "оно", а также а также насколько часто в них употреблялись глаголы эмоций.
Исследователи обнаружили, что со временем способ описания технологий в научных статьях изменился. Согласно их системе оценки, уровень антропоморфизма - когда мы приписываем человеческие качества нечеловеческим объектам, инструментам или концепциям - увеличился примерно на 50 процентов. В новостных материалах антропоморфизм технологий проявлялся чаще, чем в научной литературе, хотя с течением времени этот показатель практически не изменился.
В частности, научные статьи, посвященные большим языковым моделям (БЯМ), таким как ChatGPT, чаще получали более высокие оценки за антропоморфизм, чем статьи, посвященные другим технологическим формам. Ченг говорит, что ей захотелось разобраться в этом вопросе после того, как она заметила антропоморфные метафоры и фразеологизмы в научных работах, которые ей поручили рецензировать. "Я не думаю, что вам следует использовать такой язык, потому что это чревато последствиями, - говорит она.
Кристалл времени позволил увеличить производительность "идеальной" квантовой системы на 28 кубитов
В частности, говорит она, это может привести к преувеличению возможностей технологий, что может перевернуть представление о том, как с ними работать и контролировать. Это особенно актуально для искусственного интеллекта, который, как отмечает Ченг, назван так, что уже по своей сути является антропоморфным.
"Антропоморфизм заложен во все наши способы построения и использования языковых моделей", - говорит она. "Это двойственная ситуация, в которой мы оказались: пользователи и создатели языковых моделей вынуждены использовать антропоморфизм, но в то же время использование антропоморфизма приводит ко все более и более ошибочным представлениям о том, на что способны эти модели".
"Это то, что с самого начала было проблемой искусственного интеллекта", - говорит Мелани Митчелл из Института Санта-Фе в Нью-Мексико. "Это очень сильно влияет на то, что мы думаем об этих системах". Митчелл считает, что проблема усугубляется по мере того, как чат-боты становятся все более человекоподобными и бегло излагают свои мысли, что заставляет пользователей проецировать на них свои человеческие качества. "Люди очень склонны проецировать человеческие качества на системы, что порождает предположения о том, как эти системы могут действовать и насколько им можно доверять", - утверждает Митчелл.
Член команды Кристина Глигорич, также работающая в Стэнфордском университете, говорит, что наделение робота человеческими качествами - обычное дело. "Использовать стандартный язык — это очень естественно", - утверждает она. "Антропоморфизм — это метафора или "мысленный ярлык", который мы используем для описания предметов и вещей". Однако она считает, что, прежде всего, в научном сообществе важно использовать правильные обороты речи, а исследователям - внимательнее относиться к тому, как презентуются технологии.
Определенную роль в этом процессе может сыграть и общественность, если будет более скептически относиться к технологиям и их возможностям - ведь все начинается с того, как мы о них говорим. "[Антропоморфизм] в итоге заставляет нас слишком доверять системе", - считает Митчелл. "А потом мы неприятно удивляемся, когда они не справляются с задачей или вы видите что-то совершенно бесчеловечное".