Алгоритм GPT-3 - это идеальная машина для троллинга противников прогресса - тех, кто уверен, что в условиях цифровой революции можно жить, как в старые добрые времена. Если говорить простыми словами, то GPT-3 - это генератор текстов, который вдохновляется с помощью нейронных сетей. Нет, он не Байрон, он другой. Но отличить творение машинного разума от писанины среднестатистического журналиста или ученого положительно невозможно. Собственно, это обстоятельство и стало поводом для многочисленных случаев глумления цифровых революционеров над обывателями.
Для начала в 2020 году GPT-3 опубликовал авторскую колонку в британском издании The Guardian на тему "Почему люди не должны бояться роботов?" И если бы не подпись "эту статью написал робот", то никто из читателей бы не заметил подмены. Редакторы издания признались, что "на редактирование заметки робота ушло меньше времени, чем на многие человеческие статьи".
Затем группа шутников устроила алгоритм поработать под видом живого человека на ресурсе Reddit - в разделе, где пользователи могут задавать вопросы обо всем. Неделю робот отвечал на вопросы о самоубийствах, сексуальных домогательствах, теориях заговора, иммиграции, расизме и никто не заподозрил подвоха.
В июне этого года двое шведских ученых замутили новую провокацию: попросили GPT-3 написать научную статью о самом себе. С минимальными подсказками ученых алгоритм написал диссертацию и она была опубликована на международном сервере препринтов.
Наконец, Михаил Павловец, доцент школы филологических наук ВЭШ, продолжил серию провокационных экспериментов и с помощью коллег предложил GPT-3 сгенерировать итоговое сочинение, которое 7 декабря писали более 635 тысяч выпускников российских школ. Это сочинение является допуском к ЕГЭ, оно оценивается по системе "зачет/незачет" и является проверкой умения владеть речью, рассуждать и аргументировать свои мысли. Хотя критики утверждают, что сочинение в его нынешнем виде является пустой и бессмысленной формальностью. Ведь от выпускника требуется всего-навсего вписаться в примитивные критерии:
- написать связный текст объемом 350 знаков
- рассуждать в пределах обозначенной темы
- выдвинуть тезис и подкрепить его примером из литературы
- не делать грубых логических ошибок и т.д.
Учителя и репетиторы натаскивают учеников пользоваться набором простых клише - этого вполне достаточно, чтобы написать сочинение на "зачет". Неужели искусственный интеллект будет поставлен в тупик таким испытанием?
Алгоритм попросили написать сочинение на тему "Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?"
Через пару минут GPT-3 сгенерировала несколько вариантов текста. Алгоритм перевыполнил программу и пускался в рассуждения, опираясь на 4 литературных произведениях: «Дивный новый мир» Олдоса Хаксли, "Дорогу" Кормака Маккарти «Франкенштейна» Мэри Шелли и «1984» Джорджа Оруэлла.
Тексты перевели на русский (GPT-3 пишет на английском) с помощью Яндекс.Переводчика. Итоговый вариант сочинения получился объемом 358 слов. Прямо скажем, эти 358 слов не потрясли мир (текст см. ЗАЦЕНИ!) Но их вполне хватило, чтобы получить "зачет" у двух проверяющих.
Автор эксперимента задается справедливым вопросом: зачем нужно натаскивать детей создавать однообразные тексты, лишенные искры божьей, если их без труда генерирует машина? Неужели чиновники из системы образования не понимают, что сегодняшним выпускникам придется жить в мире, где всю рутинную работу будут делать роботы? И человеку необходимо осваивать сферы деятельности, которым не грозит автоматизация. В противном случае система образования даст путевку в жизнь многомиллионной армии лишних людей.
ЗАЦЕНИ!
Сочинение, написанное алгоритмом GPT-3
Тема 512. Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?
Текст:
"Достижения прогресса, которые дают человеку удобство и комфорт, могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления. По мере того как люди привыкают к удобствам, обеспечиваемым технологиями и достижениями общества, они могут начать воспринимать эти вещи как должное и терять способность представлять жизнь без них. Этот недостаток воображения может затруднить людям оспаривание статус-кво или адаптацию к меняющимся обстоятельствам.
Один из примеров этого явления можно увидеть в романе Олдоса Хаксли «Дивный новый мир». В этом обществе-антиутопии население поддерживается в состоянии вечного счастья благодаря использованию передовых технологий и социальной инженерии. Однако это счастье дается ценой индивидуальности и критического мышления. Граждане этого общества не в состоянии представить себе мир за пределами своего собственного, и в результате они не в состоянии бросить вызов деспотичному правительству, которое их контролирует.
В реальной жизни мы можем видеть опасность самоуспокоенности в нашей растущей зависимости от технологий. По мере того как технологии становятся все более продвинутыми и интегрируются в нашу повседневную жизнь, мы все больше и больше полагаемся на них. Эта зависимость может сделать нас уязвимыми к сбоям в технологиях, как это было продемонстрировано в недавних отключениях электроэнергии и кибератаках. Кроме того, наша зависимость от технологий может сделать нас менее устойчивыми и менее способными адаптироваться к меняющимся обстоятельствам. Например, во время стихийных бедствий люди, которые полагаются на технологии, могут оказаться неспособными справиться без доступа к своим устройствам и интернету.
Кроме того, достижения прогресса также могут привести к отсутствию критического мышления. По мере того как люди привыкают к тому, что информация всегда под рукой, они могут стать менее склонными к глубокому размышлению и анализу. Они также могут с меньшей вероятностью подвергать сомнению источники получаемой ими информации, что может привести к распространению дезинформации и размыванию навыков критического мышления.
В целом достижения прогресса могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления. Для нас важно осознавать эти опасности и защищаться от них, чтобы гарантировать, что прогресс продолжает приносить пользу человечеству, а не препятствовать ему. Мы должны помнить о нашей зависимости от технологий и стремиться сохранить нашу способность мыслить критически и независимо. Поступая таким образом, мы можем гарантировать, что достижения прогресса продолжают улучшать нашу жизнь, а не умалять ее."