Новая роль ИИ в школах
Начало учебного года вновь возродило обсуждение роли генеративного ИИ в образовательной системе. Всего за три года эссе из основного элемента обучения превратилось в менее полезный инструмент, главным образом из-за ChatGPT. Статистика использования ИИ для написания студенческих работ различна, но это явление настолько распространено, что учителям приходится приспосабливаться.
Почему ИИ легко справляется с эссе
Генеративный ИИ хорошо справляется с написанием эссе благодаря наличию большого количества примеров в обучающих данных. Кроме того, стандартные требования к студенческим эссе по качеству текста и оригинальным исследованиям не слишком высоки, что упрощает задачу для ИИ. Поймать студента за списыванием сложно, так как инструменты для проверки ИИ-контента пока недостаточно надёжны, и риск ложного обвинения слишком велик.
Техническое решение: водяные знаки
Тем не менее существует техническое решение — водяные знаки для текста, сгенерированного ИИ. В 2022 году команда OpenAI под руководством исследователя квантовых вычислений Скотта Ааронсона разработала систему, которая позволяет метить текст ИИ, делая его распознаваемым даже при изменении слов или структуры. Эта технология основана на изменении вероятности выбора следующего слова, делая текст с водяными знаками отличимым от обычного текста.
Почему технология не используется
Несмотря на наличие этой технологии, OpenAI не спешит её выпускать. Причина кроется в конкуренции: если только OpenAI внедрит водяные знаки, студенты быстро переключатся на другие ИИ-инструменты, такие как Meta's Llama или Anthropic’s Claude. В результате OpenAI потеряет часть своей аудитории, а проблема плагиата останется нерешённой.
Регуляции и будущее водяных знаков
Одна из возможных мер решения — вмешательство регуляторов. Например, в Калифорнии предложен законопроект, требующий от всех поставщиков ИИ снабжать свой контент водяными знаками. Однако другие компании сопротивляются этому, поскольку это ставит их в невыгодное положение.
Проблемы открытых моделей
Даже если бы водяные знаки стали обязательными, они не смогли бы охватить все ИИ-модели. Многие из них, такие как Llama, уже выпущены в свободный доступ, и их невозможно обновить с новыми метками. Открытые модели создают много возможностей для исследований и креативности, но одновременно затрудняют реализацию важных мер по борьбе с плагиатом и другими проблемами.
Заключение: Как бороться с ИИ-плагиатом
Несмотря на то что водяные знаки могли бы стать эффективным решением, общество, скорее всего, будет вынуждено искать другие пути борьбы с ИИ-содержимым. Учителя уже переходят на написание эссе в классе, а также на другие способы оценки знаний. Возможно, эссе при поступлении в вузы тоже утратят свою актуальность, и это будет неплохим решением.
Однако стоит отметить, что из-за быстрого развития ИИ мы упустили возможность внедрения простого решения, которое могло бы облегчить использование ИИ без таких негативных последствий, как плагиат. В будущем, с повышением ставок, ситуация, когда коммерческие интересы препятствуют саморегулированию, а регуляторы не успевают вмешаться, может повториться.
Присоединяйтесь к КиберЛента! Мы расскажем вам обо всех новинках и трендах в мире технологий. Подписывайтесь и будьте в курсе!