Почему проблема может заключаться не в возможностях
Автор: Ник Беар Браун
Существует определенный момент, когда учреждение раскрывает свои истинные убеждения относительно людей, которым оно служит. Это не момент объявления — пресс-релиз, церемония партнерства, электронное письмо декана с обещанием «новой, преобразующей системы». Это момент первой неудачи. Что говорит учреждение? Что оно делает? Что оно делает вид, что ничего не произошло?
В марте 2026 года в Северо-восточном университете, через десять дней после начала ежемесячного расчетного периода, значительная часть студентов и преподавателей оказалась заблокирована в системе Claude — системе ИИ, которую университет активно продвигал как необходимую для их работы и идентичности как учреждения. На официальной странице состояния ИТ-системы было написано: «Все системы работают». Студенты столкнулись с сообщениями об ошибках. Разрыв между этими двумя фактами — это не техническая история. Это история доверия. Исследования показывают, что доверие — это критически важная переменная, которая в конечном итоге определяет, будет ли ИИ в образовании эффективен или нет.
Что на самом деле говорят исследования
Литература по взаимодействию человека и ИИ пришла к обманчиво простому выводу: цель внедрения ИИ — не высокое доверие. Это калиброванное доверие — состояние, когда уверенность пользователя в системе точно соответствует фактической надежности системы. Калибровка в любом направлении влечет за собой издержки.
Чрезмерное доверие приводит к когнитивному аутсорсингу. Студенты, которые слишком полностью доверяют ИИ, перестают проверять, задавать вопросы, рассуждать самостоятельно. Они показывают худшие результаты в тестах на подлинное понимание, чем студенты, которые вообще никогда не использовали этот инструмент. Это тот самый режим отказа, которого опасаются администраторы, боящиеся ИИ, тот, который лежит в основе архитектур слежки и программного обеспечения для обнаружения плагиата.
Но недостаточное доверие столь же разрушительно, и об этом говорят реже. Когда студенты не доверяют инструменту ИИ — или когда они доверяли ему, а затем перестали — они демонстрируют то, что исследователи называют «алгоритмической неприязнью». Они теряют интерес. Они обходят систему. Они оплачивают альтернативы из собственного кармана. Инструмент обходится для учреждения за полную коммерческую стоимость, не влияя ни на чье обучение.
Кризис в Северо-восточном университете — это почти идеальный пример того, как создается недоверие. Не только из-за некомпетентности, хотя операционные сбои были реальными. Из-за чего-то более конкретного: нарушения того, что психологи называют «доброжелательным» измерением доверия. Пользователи спрашивали не просто, способен ли Claude. Они спрашивали, действует ли учреждение, предоставляющее Claude, в их интересах. Ответ, который они получили — молчаливое ограничение, страница состояния, утверждающая, что инцидентов нет, служба ИТ, которая подтвердила, что ограничения «не являются сбоем», ничего не объясняя, — был однозначным. Учебное заведение управляло своим бюджетом. Студенты не путают это с сервисом.
Эффект «медовой ловушки» и почему он важнее возможностей
Когда университет внедряет инструмент ИИ с институциональной поддержкой — неявным обещанием, что эта система была проверена и подходит для академической работы, — студенты соответствующим образом корректируют свои рабочие процессы. Они создают проекты внутри системы. Они строят свои мысли, исходя из предположения, что инструмент будет доступен и завтра. Они инвестируют.
Это эффект «медовой ловушки»: инструмент привлекает инвестиции и зависимость, а затем условия меняются.
Исследования сбоев в работе цифровых сервисов точно показывают, что происходит дальше. Сбои в процессах — то, как обрабатывается сбой — наносят больший ущерб долгосрочному доверию, чем сбои в результатах. Студенты могут простить сбой. Они не могут простить, когда им говорят, что сбоя нет, а их блокируют в выполнении работы.
Ситуация в марте 2026 года с неприятной точностью соответствовала этому. Ежемесячное жесткое ограничение — структурированное, что примечательно, как худший вариант по сравнению с коммерческой подпиской Claude Pro, которая предлагает поэтапное обнуление, а не ежемесячные блокировки — в сочетании с полным отсутствием проактивной коммуникации, отсутствием панели мониторинга использования в реальном времени и страницей состояния, отражающей работоспособность в разгар кризиса. Студенты, которые назвали это «обманом», не преувеличивали. Они использовали правильный термин.
Долгосрочный ущерб от такого рода нарушений нелинейный. Исследования внедрения доверия постоянно выявляют пороговый эффект: ниже критического уровня институционального доверия и технической надежности инвестиции в персонализацию и возможности ИИ приносят незначительную отдачу. Возможности становятся неактуальными, как только достигается этот предел.
Ловушка противостояния
Кризис в Северо-Восточном университете иллюстрирует один из аспектов институционального сбоя в области ИИ: операционная некомпетентность, создающая дефицит доверия. Но более широкий исследовательский ландшафт указывает на второй, возможно, более распространенный тип сбоя: учреждения, которые строят свою стратегию в области ИИ вокруг наблюдения, а не партнерства.
История технологий обеспечения академической честности — это история гонки вооружений. Появляется Turnitin; студенты изучают плагиат с помощью мозаики. Контрактное мошенничество развивается; программное обеспечение для контроля за выполнением заданий проникает в дома студентов. Появляются инструменты обнаружения ИИ; студенты разрабатывают многоэтапные рабочие процессы, которые преобразуют и переосмысливают контент, сгенерированный ИИ, до тех пор, пока статистические признаки не исчезнут.
В результате этого цикла не происходит снижения уровня нечестности. Возникает нечто более тревожное: группа студентов, систематически обучающихся обходу ИИ. Распознаванию шаблонов, генерируемых машинами. Пониманию того, что ищут алгоритмы обнаружения. Манипулированию результатами для удовлетворения статистических моделей. Парадоксально, но это навыки высокой грамотности в области ИИ — приобретенные в угоду нечестности и потому, что учебное заведение рассматривало ИИ как угрозу, а не как партнера.
Психологический механизм хорошо задокументирован в теории самоопределения. Когда учебные заведения угрожают автономии студентов посредством обязательного наблюдения, студенты испытывают мотивационное состояние, направленное на восстановление этой свободы. Внешне контролируемая среда неизменно приводит к снижению внутренней мотивации, более поверхностному вовлечению и большей стратегической активности, чем среда, поддерживающая автономию, — а «презумпция вины», заложенная в рамках подхода, ориентированного на выявление нарушений, является, пожалуй, самым внешним контролем, который только можно встретить в образовательной среде. Наблюдение не только не предотвращает списывание. Оно учит студентов тому, что институциональные отношения носят конфронтационный характер, что снижает вероятность подлинного вовлечения и делает стратегическое уклонение более привлекательным.
Проблема предвзятости, о которой никто не говорит достаточно громко
В инструментах обнаружения с помощью ИИ заложена конкретная несправедливость, которая заслуживает большего внимания, чем ей обычно уделяется. Эти алгоритмы обучаются на основе шаблонов в тексте — статистических сигнатур, которые коррелируют с машинной генерацией. Они научились распознавать тексты, которые грамматически консервативны и синтаксически предсказуемы. Тексты, которые избегают лингвистических рисков. Тексты, которые тщательно следуют правилам.
Это также стиль письма людей, изучающих английский как дополнительный язык.
Исследования показали, что популярные детекторы ИИ дают значительно более высокий процент ложноположительных результатов для многоязычных авторов, чем для носителей английского языка. Система, предназначенная для выявления списывания, непропорционально часто обвиняет иностранных студентов в списывании за то, что они пишут тщательно.
В результате вред усугубляется. Студенты, ложно обвиненные в списывании, не проявляют искреннего энтузиазма. Они становятся защитными пользователями каждой системы, предоставляемой учебным заведением — умалчивая контекст, сводя к минимуму вовлеченность, выполняя требования, а не стремясь к пониманию. Инструмент, призванный защитить академическую честность, подрывает психологическую безопасность, необходимую для обучения.
Что на самом деле требует калиброванное доверие
Обобщение исследований за 2024–2026 годы выявляет институциональные практики, которые надежно повышают доверие к ИИ. Они несложны. Они почти полностью связаны с прозрачностью и коммуникацией.
Видимость использования в режиме реального времени. Если бы Северо-восточный университет предоставил студентам панель мониторинга, показывающую их ежемесячное потребление токенов и прогнозируемую дату исчерпания, мартовский кризис стал бы совсем другим событием. Неприятным, но не предательством. Студент, который видит, что у него осталось 80 сообщений, и корректирует их соответствующим образом, был бы уважаем как взрослый. Студент, который просыпается и видит сообщение об ошибке без контекста, был бы урегулирован.
Протоколы восстановления сервиса. Когда происходят сбои — а они будут — важна реакция учреждения. Подтверждение в течение нескольких часов, а не дней. Подлинное объяснение, включая финансовые трудности, если они были причиной. Ощутимое устранение последствий. Институциональная литература по восстановлению доверия последовательна: реакция на сбой влияет на долгосрочное доверие больше, чем сам сбой. Молчание — не нейтральный выбор.
Разработка заданий, основанная на сотрудничестве, а не на противостоянии. Оценки, предполагающие помощь ИИ и делающие человеческий вклад незаменимым — посредством устной защиты, рефлексивной метакогниции, документирования процесса — разрушают систему стимулов к нечестности. Студент, которого попросили объяснить свои мысли в режиме реального времени, не может передать это объяснение кому-либо другому. Это не наивно. Это эффективнее, чем гонка вооружений.
Грамотность в области ИИ как обязательное условие учебной программы, а не как второстепенный аспект. Студенты, понимающие, как работают большие языковые модели — в чем они хороши, где они терпят неудачу, почему они допускают уверенные ошибки — менее подвержены как чрезмерному, так и недостаточному доверию. Они также менее подвержены тревоге, связанной с наблюдением, потому что понимают ограничения технологий обнаружения. Грамотность — это операционная система. Доступ — это всего лишь оборудование.
Аргумент об учебной среде
Легко было бы истолковать описанные здесь операционные сбои как чисто административные. Это не так. Они носят педагогический характер.
Теория самоопределения и её последующие разработки установили, что для обучения необходим особый психологический климат: такой, в котором студент чувствует себя в безопасности, может выражать свою растерянность, признавать неполноту понимания, задавать вопросы, которые боялся задать на лекции. Этот климат не возникает автоматически. Он формируется благодаря постоянному ощущению компетентности, автономии и подлинной взаимосвязи — чувству, что окружающие его люди и системы действуют в его интересах.
Эквивалентом этого климата в ИИ является калиброванное доверие. Студент, который точно доверяет инструменту — который знает, что он может делать, знает, что он будет доступен в обещанный срок, и знает, что учреждение прозрачно сообщает об ограничениях — находится в когнитивном состоянии, благоприятном для обучения. Студент, который испытывает неуверенность в том, будет ли инструмент доступен завтра, является ли страница состояния честной, совпадают ли интересы учреждения с его собственными, — нет.
Решение о введении ежемесячного жесткого лимита без прозрачности, без панели мониторинга использования, без проактивной коммуникации — это не просто оперативное решение. Оно формирует психологические условия, в которых студенты пытаются учиться. В этом и заключается аргумент в пользу правильного подхода — не в повышении эффективности, не в управлении репутацией, а именно в том, для чего, по словам университетов, они и предназначены.
Эксперимент, который проводит Северо-восточный университет, независимо от того, намерен он это делать или нет.
В концепции Джозефа Ауна «защита от роботов» утверждается, что университеты должны готовить студентов к работе, которая дополняет ИИ, а не вытесняется им. Это верно. Сбои в марте 2026 года показали, что невозможно подготовить студентов к работе рядом с ИИ, рассматривая внедрение ИИ как второстепенный вопрос, требующий управления, а не как устойчивые взаимоотношения.
«Живая лаборатория», к созданию которой стремится Северо-восточный университет, не заканчивается в момент внедрения. Она включает в себя оперативные решения, выбор способов коммуникации, реакцию на сбои. Если эксперимент действительно направлен на понимание того, чем может стать ИИ в образовании, то мартовский кризис — это данные: вот что происходит, когда инфраструктура доверия отстает от возможностей больше, чем пользователи могут усвоить.
Приведенные ниже рекомендации технически несложны. Панели мониторинга использования в реальном времени. Периодические окна сброса вместо ежемесячных жестких ограничений. Многоуровневый доступ в зависимости от академических потребностей. Проактивное информирование при изменении сервиса. Это оперативные решения, которые указывают на одно основополагающее обязательство: студенты и преподаватели, использующие эти инструменты, являются партнерами в эксперименте, а не проблемами, которые нужно решать в рамках бюджета.
Вопрос никогда не заключался в том, способен ли инструмент Claude 4.6 Opus на это. Он способен.
Вопрос в том, заслужило ли учреждение, внедряющее его, право просить студентов строить свое обучение на его основе.
Ответ на этот вопрос будет дан не в апреле, на пресс-конференции. Ответ будет дан в марте, когда инструмент перестанет работать, а на странице состояния ничего не будет написано.