Как-то я поделилась соображениями о том, что такое искусственных интеллект и как он может повлиять на нас и на нашу действительность. Не сказать, что я разделяю пессимистические настроения на предмет того, что нейросети и ИИ нет-нет да и вытеснят людей с привычных позиций, но и не ухожу полностью в оптимизм насчёт того, что цифровые средства значительно облегчат нам существование на этой планете (если мы не освоим уже межпланетные путешествия). Я стараюсь занимать срединную позицию, дабы объективно оценивать происходящие процессы.
Собственно, этот пост я решила посвятить одному аспекту, который меня немножко встревожил.
В чём же дело?
Листая новостную ленту, набрела на такой материал.
Вот отрывок:
«Только что пообедал с 22-летним студентом. Умный парень. Но что-то было не так.
Он постоянно делал паузы в середине предложения, подыскивая слова. Не сложные слова — простые. Как будто его мозг был в состоянии буфера.
Наконец я спросил, все ли с ним в порядке. Его ответ поразил: иногда я забываю слова, я так привык к тому, что ChatGPT завершает мои мысли, что, когда его нет, мой мозг кажется...замедляется.».
Суть в том, что парень использовал ИИ для всего. Писал, думал, общался. ИИ стал его внешним мозгом. При этом его внутренний мозг стал слабее.
Понятное дело, что нейросети и ИИ — вещи немного разные, но суть одна: цифровая среда столь глубоко входит в коммуникационный обиход человека, что он доверяет ей не только технические задачи.
Да, сегодня люди часто обращаются к нейросетям: помочь решить задачи, составить тексты, проверить информацию и так далее. Степень слияния человеческого и искусственного разумов относительная, где-то больше, где-то меньше, но в приведённой цитате чувствуется совершенно иной расклад, который, вероятно, затрагивает непосредственно человеческую сущность.
Автоматизация всего и вся
Одно дело отдавать цифровым средствам технические задачи, на выполнение которых они и заточены, но другое — оставлять за ними возможность думать и говорить за нас.
Алгоритмы сидят в нас очень глубоко, начиная с самого банального — дыхания. А за ним и пульс, и сердцебиение, и кровоток... Автоматизация ближе нам, чем кажется, взять те же рефлексы, врождённые или условные. Человек как организм — отлаженная система, действующая согласно множество программных кодов.
ИИ, нейросети — своего рода технологическое/техническое/цифровое отражение алгоритмизации, сопутствующей нам на протяжении очень и очень долгого времени.
Закономерно возникает вопрос: что же такого в том, что мы позволяем всё больше проникать в нашу когнитивную деятельность цифровым средствам? Ведь мы и так, без малого, органические компьютеры.
Это ловушка аналогий, западня, куда очень легко угодить и откуда не так-то просто выбраться.
Массовая культура рисовала нам грандиозные и ужасающие картины того, как искусственный интеллект, обретя сознание, вдруг обнаруживал неутолимую тягу к завоеванию человечества. Здесь имеется столкновение двух форм жизни, двух равнозначных соперников, но реальность, с одной стороны, куда примитивнее, но, с другой — куда прозорливее.
Сознание?
Может ли быть у ИИ сознание? — не совсем правильная постановка вопроса. В данном же случае, на мой взгляд, проблема состоит в том, что благодаря цифровым средствам, облегчающим человеку умственный труд, мы лишаемся главного — спонтанности творческого акта, проблеска сознания.
В сущности, алгоритму сознание не нужно. Он действует сам по себе. Сознание — это скорее парадокс, случайность. Благодаря алгоритмизации сознание не возникает, как и не исчезает. Оно есть здесь и сейчас, и ничто не приводит к его появлению, кроме него самого.
Искусственный интеллект — не злой двойник человечества, но состояние отсутствия сознания. Это доведённое до автоматизма бытие, откуда изъята сама возможность возникновения подобного явления.