Автор Одри Уоттерс
Мне всегда было очень не по себе от небрежного замечания, что «школы — это тюрьмы», даже если, несомненно, есть школы, которые делают все возможное, чтобы ограничить свободу и мобильность своих учеников. Это утверждение — «школы — это тюрьмы» — сглаживает многие важные различия между школами и тюрьмами, очевидно, — как в их миссиях, так и в их практиках; оно отрицает и принижает опыт учеников и заключенных; оно стирает историю; оно затемняет власть.
Но вот одно ключевое различие между школами и тюрьмами, на которое нам нужно настроиться прямо сейчас: только одно из этих учреждений является основополагающим для будущего, которое строит для нас техно-фашизм. И это, конечно, не школа.
Государственное образование систематически демонтируется; и как президент Трамп сказал президенту Сальвадора Наибу Букеле на этой неделе, когда они шутили о незаконной депортации мигрантов и их заключении в концентрационных лагерях последнего, «вам нужно построить больше мест». Больше тюрем.
Разрушение государственного образования — давайте будем честны — уже некоторое время идет полным ходом. Неолиберальная политика стремится лишить нас финансирования всех социальных служб. Вместо сети безопасности нам говорят обращаться к Интернету за образованием, здравоохранением, работой, обществом. Между тем экономическое неравенство растет в геометрической прогрессии. В то время как богатые становятся еще богаче, остальные из нас получают режим жесткой экономии, поскольку социальное обеспечение — то есть программы, которые (по крайней мере в идеале) обеспечивают благополучие и процветание всех людей — подвергается нападкам, лишению финансирования, уничтожению. Теперь мы все должны зарабатывать себе на жизнь (или образование) самостоятельно, с небольшой цифровой суетой и нетворкингом, и если мы потерпим неудачу в каком-либо юридическом или финансовом плане, альтернативой будет тюрьма.
Эта цифровая суета извлекла из нас огромные объемы данных, и те, кто нажился на платформенной экономике, объединяются с государством. Теперь нам грозит тюрьма, если мы не выполним и идеологические требования. Это будущее ИИ. Вот его присутствие сейчас.
Вот его присутствие сейчас в образовании. Несмотря на все спекулятивные разговоры об ИИ как о дающем интеллектуальные расширения прав и возможности, искусственный интеллект — это тюремная технология, которая используется для просеивания данных с целью профилирования и дискриминации; для дестабилизации, обмана, мошенничества и манипулирования; для ареста, депортации и исчезновения.
Я думаю, что те, кто продвигает ИИ в образовании, предпочитают рассматривать технологию как «генеративную» — как щедрую, доброжелательную, полезную. Один из аргументов, которые Арвинд Нараянан и Сайаш Капур приводят в своей книге «Змеиное масло ИИ», заключается в том, что существует два вида ИИ — предиктивный и генеративный — и хотя первый опасен и не должен использоваться при принятии решений, в образовании или где-либо еще, последний окажется довольно продуктивным. Но я не уверена, что существует такое четкое различие — в конце концов, они оба являются статистикой в масштабе. ИИ — это дискурсивная технология с реальной силой — силой буквально определять жизнь или смерть, гражданина или преступника, силой наносить реальный, материальный вред.
Исследователи Стэнфорда опубликовали на этой неделе предварительную версию исследования — «Вред невмешательства: алгоритмические предубеждения в моделях генеративного языка», — в котором изучалось, как генеративный ИИ увековечивает «вред бездействия, подчинения и стереотипизации для меньшинств с интерсекциональной расой, полом и/или сексуальной ориентацией». Исследователи заявили, что не были удивлены, обнаружив предубеждение — мы все знаем, что оно встроено в технологию. Но они были шокированы его масштабами, написав, что «Мы находим широко распространенные доказательства предубеждения в той степени, что такие люди в сотни или тысячи раз чаще сталкиваются с результатами, сгенерированными LM, которые изображают их идентичности в подчиненной манере по сравнению с репрезентативными или расширяющими возможности изображениями».
Здесь есть серьезные последствия для тех, кто использует генеративный ИИ не только для K-12 или университетского письма — результат, наиболее аналогичный этому конкретному исследованию — но и для тех, кто использует его для выдачи планов уроков, учебников и дифференцированных заданий по чтению, даже для тех, кто говорит, что использует его просто для «мозгового штурма».
Эти результаты следует также рассматривать вместе с исследованием Teachers College, которое Джилл Баршай освещала в своем информационном бюллетене Hechinger Report на этой неделе: «Иностранные студенты могут оказаться среди самых крупных ранних бенефициаров ChatGPT». В этом исследовании утверждается, что письмо студентов с высоким доходом, «лингвистически неблагополучных» — то есть неносителей английского языка — улучшилось после внедрения ChatGPT. Но исследователи на самом деле не спрашивали студентов, использовали ли они генеративный ИИ. И как отмечает Баршай, «исследователи обучения не анализировали идеи, качество анализа или имели ли студенческие работы какой-либо смысл. И неясно, отправляли ли студенты чтение в чат-бот вместе с вопросом профессора и просто копировали и вставляли ответ чат-бота в доску обсуждений, или студенты действительно читали сами, печатали некоторые предварительные идеи и просто просили чат-бота отточить их письмо». Так что, если что-то и происходит, я бы предположила, что результат генеративного ИИ «звучит как что-то вроде белого правого» — воспроизведение предубеждений в академической среде в отношении определенного звука и ритма речи, при этом извращая оригинальный трюк теста Тьюринга в тактику выживания и «прохождения».
Последнее можно считать формой грамотности как сопротивления, я полагаю. Если вы прищуритесь. Конечно, сопротивление редко бывает той «грамотностью ИИ», которую те, кто продает такие вещи — а теперь, по-видимому, и стандартизированное тестирование для таких вещей — когда-либо имели в виду. Их не интересует грамотность как освобождение, в наследии Фредерика Дугласа или Паоло Фрейре. Грамотность ИИ, как ее представляют индустрии ИИ и реформы образования, касается навыков работы и использования инструментов, соблюдения и контроля.
Джеймс О'Хаган недавно утверждал, что «грамотность ИИ без разговоров о власти упускает суть». Аминь. Но поскольку правительство США (и технологические корпорации) стремятся убрать из программ язык, связанный с «DEI» (на самом деле, полностью прекратить программы «DEI») как в социологическом, так и в техническом смысле этого слова, сам факт разговора о власти — то есть разговор о предубеждениях, которые являются основополагающими для ИИ — станет практически невозможным.
В этом, конечно, суть. Потому что как только вы начинаете говорить о власти, вы можете более ясно увидеть, как ИИ является принудительной, карцеральной технологией, маскирующейся под забавную маленькую мем-машину.