В нашу жизнь ворвались коммерческие нейросети. Они могут генерировать изображения, находить ответы на любые вопросы и создавать новые тексты по запросу. Последним стали успешно пользоваться студенты. Уже не нужно даже самому искать информацию, чтобы потом скопировать себе в курсовую работу, нейросеть все сделает за тебя. Наступает светлое будущее? Или нет? Побродим мыслями на тему.
Какой принцип работы нейросети? В общих чертах, в нейросеть загружается информация, визуальная или текстовая. Информация проходит какую то обработку и выдается на выход. Для того, чтобы получить на выходе что то полезное, нейросеть "обучают". Наиболее простой пример - распознавание образов, например цифр. Берется картинка, разбивается на участки, точки. Загружается в матрицу нейросети, затем над матрицей производятся вычисления, так, чтобы на выходе получилась цифра. Если цифра не соответствует изображенной на картинке, меняют правила вычислений. И так итерационно до тех пор, пока на выходе не будет цифра. Это состояние фиксируют и после этого нейросеть успешно, с высокой долей вероятности (порой выше, чем человек) распознает цифры на изображении.
Это общий принцип. Далее пошли усложнения алгоритмов вычислений и объектов для обработки.
С появлением сети интернет произошло накопление критической массы объектов, изображений и текстов (для этого были созданы бесплатные хранилища фоточек и видео, в том числе), и пользователей, помогающих обучать сеть (те самые картинки для входа на ресурсы интернет, когда для входа нужно указать, что изображено на картинке). И появились соответствующие вычислительные мощности, позволяющие работать с огромным объемом информации.
И вот, произошел качественный переход в алгоритмах обработки. Теперь нейросети могут не только распознавать изображения, но и создавать новые, на основе компиляции изображений в хранилище. Могут генерировать новые тексты. Могут создавать новые видео. Могут прокладывать маршруты и управлять транспортными средствами.
Да, качество ещё не идеально (а где оно идеально?), но для решения бизнес задач (сгенерировать курсовую работу или изображения для статьи) уже вполне себе подходят.
Вот оно светлое будущее? Не совсем.
Как только инструменты пошли в массы, тут же стали выходить проблемы другого порядка. О том, что люди "творческих" профессий внезапно оказались под ударом, с риском потерять работу мы уже писали.
Но есть и ещё одна сторона вопроса. Нейросети обучаются на основе информации, накопленной на различных ресурсах в интернете. А в интернет закидывают информацию совершенно бесконтрольно, свобода и анархия (не полная конечно, правительства разных стран пытаются установить какие то правила) в чистом виде. Кроме информации о кошечках и розовых единорогах в интернете полно информации из разных источников (СМИ, блогеры, работа специальных служб, просто шизоиды) в которых продвигается определенного рода повестка. К примеру различные идеи ЛГБТ или "инклюзивности", или "вины белого человека". Для нейросети, весь контент, включая дегенеративный, мусорный и экстремистский одинаково достоверный.
Соответственно необходим инструмент корректировки работы нейросети. Который, конечно же создают создатели нейросетей. Сразу возникает вопрос, в какую сторону создатели нейросетей могут настраивать выдачу нейросети?
Вопрос тот же, что и с работой поисковой сети. Изначально, романтики интернета предполагали, что человечество получает доступ к неограниченному объему информации, накопленной человечеством. И будем всем информационное счастье. В пару кликов мыши.
Однако сразу произошел скачек накопления всего на свете информационного мусора. И в полный рост встал вопрос поиска в этом море информации. И вот на первое место выходят поисковики, гуглы, яндексы и прочие. Через короткое время оказывается, что поисковые системы самые главные в интернете. То, что они не покажут вам, того как бы и нет, найти очень сложно, если вообще возможно. Мгновенно поисковики стали инструментом манипуляции, выводя в первые результаты поиска "нужную" по мнению поисковика информацию по любому вопросу и отправляя альтернативные мнения на сотые страницы выдачи, куда 99,99% ищущих никогда не дойдут. А разум человеческий так устроен, что склонятся к тому, что чаще видит, такие уж механизмы работы мозга по сбережению энергии.
А нейросети это следующий этап возможности манипулировать общим сознанием масс. Когда не просто показывается нужный контент в нужном контексте, а ещё и генерируется новый, с высокой кажущейся достоверностью. Уже сейчас нельзя верить фото и видео, которые раньше были доказательной базой. Уровень фальшивок достигает качества оригинала в массовом просмотре. И только специалисты (пока ещё), как то могут отличить фальшивки от реальности.
Возникший мимолетный шум вокруг выдачи гугловской нейросети Gemini, которая на все запросы генерировала изображения любых типов людей (например Папы Римского), кроме белых, отлично это показывает. Вопрос, как же её тестировали 150 тыс. сотрудников Гугла и что это за люди, с какими ценностями, если им не показалась странной работа нейросети? Пример вышел весьма показательный.
Но ведь можно настроить сеть так, чтобы выдача имела крен в нужную сторону, который невозможно заметить без специальных исследований, на которые у подавляющего большинства людей просто нет ресурсов. Механизмы манипуляции достигают просто невообразимых раньше высот и тонкости воздействия. Куда там статьям в бумажных газетах и передачам на телевидении доинтернетовской эпохи.
Что можно противопоставить этому? С учетом ситуации происходящей в мире.
Выстраивать связи с людьми вокруг себя. Семья, друзья, товарищи, коллеги. Это самое надежное.
Повышать по мере возможности, свой уровень образования, когда ты что то знаешь достоверно, фальшивки и крены бросаются в глаза.
В интернете, подбирать собственную подборку информационных ресурсов, доказавших, что им можно доверять до какой то степени, при этом все равно слегка критически и недоверчиво воспринимать информацию, без эмоциональных метаний. Помня, что у того, кто подает информацию, есть своя цель. В общем соблюдать информационную гигиену.
Ограничить время чтения бесконечной ленты сообщений на хаотичные темы. Это раздергивание не дает сосредоточенно додумать мысль и заметить несоответствие в материалах. Читать классиков, как ни странно. Это помогает настроить мозг к размышлению на разные вечные темы.
Берегите себя, живите в реальной реальности, а не в виртуальной.
