Автор Одри Уоттерс
Два недавно опубликованных отчета используют одну и ту же фразу — «человекоцентричный ИИ» — призывая школы внедрять автоматизированные и предиктивные технологии, которые, как сообщает Грег Топпо из The 74, «служат человекоцентричному обучению [и] не просто стремятся к повышению эффективности. Любые другие действия чреваты созданием поколения молодых людей, плохо подготовленных к будущему».
«Человекоцентричный ИИ». Что это вообще значит?
Как вы можете догадаться, всякий раз, когда публикуются подобные отчеты — один спонсируется группой по обучению ИИ, а другой — аналитическим центром по реформе образования — это означает «доставайте свои кошельки». Это означает «грамотность в области ИИ» и «обучение ИИ», а также претензию на более доброе и дружелюбное будущее в сфере образовательных технологий, наполненное «инновациями», «перепроектированием» и (конечно же) «готовностью рабочей силы». В этих отчетах говорится, что мы не можем позволить «крупным технологическим компаниям» диктовать форму «искусственного интеллекта» в школах; мы не можем позволить культу эффективности влиять на принятие решений — школ или учеников. Но я не уверена, что мы можем воспринимать их утверждения всерьез, потому что в конечном итоге они настаивают на неизбежности «искусственного интеллекта», и у школ и учеников практически нет выбора, кроме как подчиниться. Отказ недопустим.
«Человекоцентричный». Это мощное прилагательное, умело использованное здесь; и, подобно слову «персонализированный» в «персонализированном обучении», оно привлекает людей, которые не слишком внимательно изучали мелкий шрифт. Можно легко добавить эти термины — «персонализированный», «человекоцентричный» — к технологии, к продукту и завуалировать, что на самом деле происходит что угодно, только не это.
«Человекоцентричный искусственный интеллект». О каких людях мы здесь говорим? Конечно же, речь идёт не о «фиктивных работниках», которым поручено маркировать и обучать эти системы, — о тех, кто выполняет критически важную, квалифицированную работу за низкую зарплату, без льгот, без гарантий занятости и ежедневно подвергается воздействию насильственного и вредного контента. Конечно же, речь идёт не о сообществах, живущих рядом с центрами обработки данных и их электростанциями, которые страдают от стремительного роста цен на энергоносители и загрязнения окружающей среды. Конечно же, речь идёт не о людях, ставших жертвами созданного ИИ контента сексуального характера — растущей проблемы среди детей и в школах. Конечно же, речь идёт не о семьях, которые становятся мишенью для инструментов слежки ICE с использованием ИИ. Конечно же, речь идёт не о тех, кто видел, как чат-боты подталкивали близких к деструктивным, бредовым мыслям, к самоубийству. Конечно же, речь идёт не о работниках, которым говорят, что их заменяют. Конечно же, не те, кто обозначен как цели использования ИИ военными, включая, да, Клода из Anthropic («У Anthropic гораздо больше общего с Министерством обороны, чем различий», — написал генеральный директор Anthropic на этой неделе).
Какие «люди» получат какой-либо «человекоцентричный ИИ»? Осмелюсь предположить, что никто из нас.
«А как же хорошее применение компьютеров?» Люди постоянно задают мне этот вопрос, часто жалуясь, что я недостаточно хорошо пишу об образовательных технологиях. Должно быть что-то хорошее, умоляют они. Пожалуйста, пусть будет что-нибудь хорошее.
Это неправильный вопрос и, возможно, даже неправильный импульс – все это основано на идеологии компьютера как нейтрального объекта, как куска податливой глины, которую можно формировать и переформовывать, изгибать в соответствии с желаниями пользователей и вдали от замыслов промышленности, вдали от ее первоначальной миссии: оружия войны.
С тех пор, как я выступила в среду перед группой учителей-пенсионеров, я все еще думаю о рассказах, которые мы рассказываем о компьютерах и «ИИ», и о том, как они почти неизбежно подрывают нашу веру в собственные человеческие возможности. Конечно, это важная часть маркетинга «ИИ» – это технология, ставящая машину выше человека, во многом потому, что «интеллект» связан с евгеникой, с ранжированием одних людей выше других. Эти истории встречаются не только в научной фантастике; Они также являются частью политических инициатив и политических обоснований. Они лежат в основе неолиберального проекта, так хорошо описанного в книге Дэниела Грина «Обещание доступа», который стал доминировать в нашем представлении о государственных учреждениях, таких как школы и библиотеки: нет необходимости их финансировать, нет необходимости их укомплектовывать персоналом, поскольку каждый может просто использовать компьютер и Интернет.
Мы могли бы по-другому структурировать общество. У нас могли бы быть другие приоритеты финансирования, другие приоритеты в отношении персонала. У нас могли бы быть меньшие классы. У нас могло бы быть больше сертифицированных учителей, переводчиков и помощников в каждом из них. У нас могло бы быть больше библиотекарей и медсестер. У каждого ребенка мог бы быть свой репетитор, свой собственный человеческий репетитор. Почему бы и нет?
Потому что мы не верим, что можем. Мы можем, но нам постоянно твердят, что лучшее, на что мы можем надеяться, — это «человекоцентричный ИИ» или какая-то подобная дорогая, неполноценная замена.
Меня всегда поражает полная нехватка воображения, когда люди стряхивают пыль с каких-нибудь научно-фантастических фантазий времен холодной войны о будущем. Это старые истории. Это старые видения. Они не так уж и хороши! И никакие гаджеты, якобы вдохновленные этими историями, тоже не так уж хороши. Ничто из этого «искусственного интеллекта» на самом деле не работает надежно. (Приложения, Wi-Fi, телефоны, серверы, веб-сайты, ноутбуки, принтеры — все они ужасно глючат.) И все же люди, которые размахивают руками и говорят о каком-то волшебном будущем с «искусственным интеллектом», настаивают, что они реалисты; а те, кто хочет финансировать школы, а не армию, кто хочет нанимать учителей, а не покупать гаджеты, кто хочет построить будущее, которое заботится о людях, а не о прибыли, — это мы мечтатели; это мы сумасшедшие.