Автор: Олег Харитонов
Я считаю, что создание ChatGPT по своей разрушительности сопоставимо с изготовлением первой атомной бомбы, и, возможно, вреда от него даже больше, но из-за косвенного характера воздействия на общество, влияние это трудно поддаётся оценке.
Наблюдавшееся ранее падение уровня IQ проходило в обществе, где информацию было хоть и относительно легко искать, но её ещё надо было обработать. Появление развитых языковых моделей решило эту проблему. Теперь на вопрос человек сразу может получить нужный ответ, даже не понимая сути вопроса. Существенная проблема, с которой мы в этом случае встречаемся — это крайнее сужение кругозора пользователя. Если раньше при поиске ответа он был вынужден обрабатывать результат выдачи своего поисковика, вникать в суть, приходить к пониманию информации, ОТКРЫВАТЬ ДЛЯ СЕБЯ ЧТО-ТО НОВОЕ, то сейчас на конкретный вопрос идёт конкретный ответ. Т.е. пользователь получает сильно обрезанный массив информации по отношению к той, какую он получал раньше.
Сужается сфера новых полученных знаний, из-за чего сужается круг вопросов, которые можно задать по этим знаниям. Происходит вынужденная деградация вопросов, следствием которой является ещё большая бедность ответов. На основе этого формируем правило: чем точнее и более ёмким будет ответ на интересующий пользователя вопрос, тем более примитивными будут уточняющие запросы по этому ответу, тем меньше работы пользователя с данными.
Да, развитая нейросеть может выдавать информацию о важных и полезных вещах, однако, чтобы ими заинтересоваться, пользователь должен о них откуда-то узнать, развитие же современных систем выдачи направлено на повышение соответствия информации запросу. Это исключает возможность получения пользователем принципиально новых знаний, как это могло происходить при прежних методах поиска, теперь происходит не более чем расширение уже имеющихся (и это в лучшем случае).
Можно придти к выводу, что снижение интеллекта по мере распространения нейросетей, использующихся для поиска информации, только ускорится, что не может не вызывать беспокойства. Внедрение же этих технологий, обучение их использованию в образовательных организациях вообще стоит рассматривать как интеллектуальное оружие массового поражения в геополитической борьбе государств.
Олег Харитонов