Еще недавно многие смотрели на искусственный интеллект как на безусловный символ прогресса. Дескать, наконец-то появился инструмент, который учит быстрее, работает эффективнее и вообще делает нас умнее. Но сегодня все чаще возникает вопрос: а что, если ИИ не только развивает человека, но и деградирует вместе с ним? Похоже, этот процесс уже идет полным ходом.
Дело в том, что искусственный интеллект учится на том информационном массиве, который генерим мы, люди. И качество этого массива постоянно снижается. Интернет переполнен поверхностными пересказами, непроверенными фактами, откровенным информационным мусором и текстами, которые сгенерированы другими нейросетями с цифровыми галлюцинациями.
Мы перестали ходить в библиотеки, разучились читать книги, искать первоисточники и сверяться с экспертными исследованиями. Зачем, если можно за секунду получить готовый ответ?
Проблема в том, что готовый ответ все чаще оказывается эффектной несуразицей. Примеров — море:
- Одна из нейросетей описала «Войну за лунное наследство 1987 года» — вымышленный конфликт между СССР и США, которого никогда не существовало.
- Другая авторитетно приписала Цицерону цитату из «Гарри Поттера» (впрочем, с цитатами у ИИ особая история).
- Третья «процитировала» царский проект строительства еще одного города Ростова – уже на Урале. Только вот ни проекта, ни его авторов не было, это была галлюцинация.
- Зарубежные юристы и вовсе попадают в неловкое положение, когда ИИ придумывает судебные прецеденты с вымышленными истцами и датами.
Это не просто забавные казусы, это симптомы глубокой болезни.
С детства у старшего поколения выработалась привычка читать, думать и анализировать. Работая с текстами, я все чаще замечаю тревожную тенденцию. Нейросетевые материалы становятся не лучше — зачастую они хуже человеческих. Грамматически безупречные, аккуратные, но при этом до скрежета однообразные, без признаков живого ума. В них исчезает мысль, исчезает автор, исчезает глубина и литературная гипербола. Они стерильны. И причина этого лично мне очевидна: ИИ все чаще учится на текстах, которые написали другие ИИ на основе запросов людей, утративших привычку проверять и думать.
Получается замкнутый круг деградации. Многие люди перестают включать голову и делегируют это машине. Машина обучается на собственных ответах и безграмотных запросах «активных» пользователей. Безграмотность процветает, машина послушно воспроизводит соответствующий уровень. В итоге обе стороны катятся вниз.
Именно поэтому пора возвращаться к нестареющим инструментам. Книги. Библиотеки. Архивы. Научные публикации. Привычка перепроверять информацию по нескольким независимым источникам и, главное, привычка думать. Настоящее образование держится не на скорости получения ответа, а на способности отличить правду от ошибки. И это умение сейчас дороже любого алгоритма.
Я не призываю отказываться от технологий. Я призываю использовать их осознанно, выборочно. Искусственный интеллект должен оставаться помощником-ассистентом, а не заменой мышления самого человека. Он может ускорить поиск, но не должен подменять анализ. И сегодня этот вопрос, увы, набирает свою актуальность.
Вячеслав Лобырев — кандидат юридических наук, преподаватель кафедры менеджмента в Российской академии народного хозяйства и государственной службы при Президенте России, ветеран боевых действий.