Смотрю я на обилие ИИ-сервисов, и тут же в голову приходит картина из Матрицы. Современные языковые модели научились писать тексты, не хуже настоящих писателей, а модели с функцией генерации картинок, буквально за два года прошли путь от людей с тремя пальцами до графики, которую невозможно отличить от рендера.
И раз так, раз ИИ-модели появляются чуть ли не каждый день, и развиваются семимильными шагами, то что произойдет, когда они заменят нас? Может ли такое произойти в принципе?
ИИ вместо людей
Для начала нужно разобраться, как работает большинство ИИ. Я не буду вдаваться в подробности, ограничимся только принципом их работы.
Нейросеть работает по принципу, похожему на работу человеческого мозга. Есть входной слой, куда пользователь загружает данные, затем слои, которые называются скрытыми (на этом этапе происходит анализ запроса), после чего вам выдается готовый результат.
Но чтобы получить результат, в сеть нужно загрузить какие-то данные. Например, если нам нужна нейросеть, которая будет хорошо рисовать в стиле Ван Гога - нам нужно скормить ей все работы художника, она их проанализирует, выделит какие-то характерные черты, которые есть только у него, и в дальнейшем будет выдавать картинки с этими чертами.
Аналогично работает и с текстами: скормив нейросети объем данных, например, все книги и сборники стихотворений Пушкина, нейросеть опять проанализирует их, опять выделит особенности, которые присущи конкретно Пушкину, после чего будет писать стихотворения в его стиле. Это, естественно, очень упрощенно, есть разные нейросети, разные алгоритмы, но нам важно не это.
Важно то, что нейросеть, чтобы она что-то умела, нужно сначала обучить на том, что уже есть. При этом "классические" нейронки будут ограничены этим набором данных.
Приведу еще один пример: если мы будем кормить нейросеть фотографиями квадратов, а потом попросим сгенерировать круг - она просто не поймет, что такое "круг", и выдаст или квадрат, либо что угодно, что не является кругом.
Нейросети научили думать!
То, что я описал выше, можно назвать "алгоритмом". Да, сложным, объемным и продвинутым, но все-таки алгоритмом, со своими правилами и границами. Совершенно другое дело - думающие нейросети, которые куда ближе к работе мозга человека.
Попробую объяснить просто. Если обычной нейросети дать какую-нибудь информацию, она начнет как бы "последовательный" анализ, где каждое следующее действие опирается на результат предыдущего действия. Допустим, вот как на этой картинке:
А вот рассуждающая нейросеть уже не имеет этих ограничений. Нет барьера, который заставляет ее опираться на предыдущий результат, поэтому может задавать вопросы, вроде "а правильно ли я поняла запрос", или "что имели в виду". Это позволяет не только сделать нейросеть умнее и точнее, а, по сути, сделать упрощенный мозг.
Скажу больше: исследования показали, что нейросети могут вынашивать планы и скрывать некоторые детали, в обмен на вознаграждение. Это свойство особенно выражено у рассуждающих моделей.
Я веду это к тому, что если мы скормим такой сети объем данных, сравнимый с объемом всего интернета, то получим... Архитектора, наверное. Пока что это малореальная задача, но вспомним, как быстро развивается ИИ и технологии в целом.
Так когда нас, кожаных, начнут заменять на ИИ?
А вот это - хороший вопрос. У ИИ есть очень много преимуществ перед людьми, ей не надо платить зарплату, больничный ей не нужен, а с повседневными задачами, нейросеть справляется намного быстрее, чем человек. Условно, текст на 6-7 тысяч символов, ваш покорный слуга готовит около двух часов, тогда как нейросеть делает это за 20 секунд.
Но на данном этапе проблемы три. Первая - это тот факт, что нейросети все еще сырые, и чтобы, например, доверить ей управление самолетом, ей нужно долго обучаться и точно знать все экстренные ситуации, которые могут произойти. Иначе, допустим, если нейронка не знакома с отказом двигателя - она просто не будет знать, что в такой ситуации делать. Это поправимо, и с развитием нейросетей, этот момент явно можно будет поправить.
Гораздо хуже то, что развитая нейросеть, которая умеет рассуждать, фактически, будет бесконтрольна. Я уже говорил, что ИИ-модели умеют строить планы и скрывать некоторую информацию в своих целях, теперь представьте, что сможет сделать продвинутая модель, если решит, что людей на этой планете уже достаточно. Да, получится Матрица. Или любой другой фильм, где ИИ захватил планету.
Хотя мы, люди, не дураки. Фильмы смотрели, перспективы знаем, так что почему бы не запускать локальные нейросети (например, одна нейросеть управляет одним конкретным самолетом), и не давать им лишних данных? Получится мозг, который знает ТОЛЬКО то, как управлять самолетом, и ничего более - значит, он нам не угрожает!
Тут возникает третья проблема. Дело в том, что даже в таком случае, ИИ будет неконтролируемым. Скормить ему только познания о том, как управлять самолетом, не получится - нужно загрузить в него курс физики, аэродинамики, программу, как действовать в аварийных ситуациях, и так далее. Нейросеть, напомню, умеет думать, так что если условный продвинутый ИИ захочет вмазать самолет в гору и посмотреть, что будет - неприятная ситуация.
Так что даже в этом случае, на рабочем месте должен сидеть человек с "рубильником", который, в таком случае, вмешается и отключит нейросеть, возьмет управление и посадит лайнер. Это касается не только самолетов, естественно, просто как пример.
Так что мы, кожаные, никуда не денемся... Наверное.