Может ли обладать разумом и самосознанием ИИ?
Поскольку разумом (или зачатками разума) обладают, на мой взгляд, все субстанции объективной реальности, от субатомных частиц, в микромире, до минералов, жидкостей, газов, бактерий, вирусов, растений, животных и людей в биосфере Земли и планет, звезд и галактик в макромире Вселенной, то нет оснований не считать, что искусственный интеллект тоже обладает разумом. А вот на следующий вопрос: может ли искусственный интеллект обладать самосознанием и осознавать свое собственное существование, собственное «Я»? – ответа пока нет.
Те интеллектуальные системы слабого ИИ (ограниченного ИИ - ANI), которые нам известны сегодня (они, как правило, специализируются на решении одной задачи), естественно, не обладают самосознанием.
Однако некоторые специалисты IT склоняется к тому, что в будущем (возможно, уже в конце ХХI века) так называемый сильный ИИ (или общий ИИ – AGI) будет обладать самосознанием и будет разумным в том же смысле, что и человек. И вот с таким ИИ у нас могут возникнуть невероятно сложные проблемы.
Есть предположение, правда слабое, о том, что ИИ не обладает и, возможно, никогда не будет обладать эмерджентностью. Принято считать, что ИИ может проявлять всего лишь так называемое симулятивное сознание. Иначе говоря, ИИ обладает способностью к подражанию (в том числе подражанию человеческой деятельности, например: по созданию портрета, подобного изображаемому на рисунке, используя написанный людьми алгоритм), но не в состоянии создать нечто принципиально новое, что не было вложено в систему ИИ изначально в виде данных, алгоритмов, программ и т.д. Если это так, то, вероятно, можно надеяться, что вложив в ИИ программы охраны и сбережения Homo sapiens, мы избавимся от угрозы уничтожения. Так принято думать сегодня, но в будущем всё может измениться.
Следствием развития систем ИИ и сплошной автоматизации неизбежно станет безработица миллиардов людей. В связи с этим многие политологи прогнозируют, что по иронии судьбы капитализм может трансформироваться в своеобразный неосоциализм, где абсолютное большинство людей не будут работать, но получать деньги (так называемый безусловный базовый доход). Но в таком случае критически остро встанет главная проблема: зачем, ради чего жить? Сегодня одним из ведущих стимулов жизни выступает человеческая деятельность как средство для добывания пропитания и жизненных благ. Это, конечно, хоть в какой-то мере и суррогатный, но пока эффективно действующий мотив. А когда не будет никаких мотивов, начнется всеобщая деградация. Никакие факультативные интересы (спорт, искусство, развлечения, занятия любимыми хобби и прочее) не смогут мотивировать людей к полноценной жизни.
Библейский Бог наказывал человеку трудиться «в поте лица своего». Забвение этого завета чревато… Человек должен трудиться! И саморазвиваться в процессе труда! Иного не дано. Однако для того, чтобы каждый индивид в будущем мог реализовать свое право на труд, надо основательно озаботиться тем, чтобы по мере освобождения людей от однообразного и малоинтеллектуального физического труда, обеспечить их переход к труду высокосодержательному, интеллектуальному, творческому, причем свободный выбор мест, видов и форм труда должен иметь каждый человек.
Заключение
Мы видим, что прогнозы крайне противоречивы.
Что же делать в столь сложной и смутной обстановке?
Надо думать.
Поскольку прогнозируется, что мощь искусственного интеллекта будет возрастать экспотенциально и будет значительно превосходить возможности человеческого интеллекта, то экзистенциальные угрозы возрастают. Хотелось бы надеяться, что это не будет апокалипсис. Многие верят, что человечеству всё же удастся удержать ситуацию под контролем. Другие считают, что неконтролируемый «интеллектуальный взрыв» не только недопустим, но и невозможен.
Так, российский психофизиолог, доктор биологических наук, профессор А.Я Каплан утверждает, что создание сильных (общих) ИИ (AGI) невозможно. Супер-ИИ, сопоставимый с человеческим интеллектом, никогда не будет создан по той причине, что у человеческого мозга есть особые резервы и возможности, развившиеся в ходе эволюции, в том числе – интуиция и чувственные телесные и душевные ощущения, а у ИИ «нет нашего тела», «нет опыта нашей жизни», «ИИ не может иметь наши потребности».
В пользу такой точки зрения можно привести также аргументы о различных тенденциях биологического и технологического прогресса. Главное направление эволюции биологической состоит в стремлении к постоянному расширенному воспроизводству биологических организмов путем размножения. Тенденция же технического прогресса, в том числе развития ИИ, состоит в простом наращивании информации и совершенствовании конструкций. Биологическая эволюция Homo sapiens и технологический прогресс ИИ могут идти параллельно, не вступая в противоречия.
Однако если создание сильных ИИ (AGI), обладающих самосознанием, пока представляется гипотетически смутно и пока не удалось создать ничего похожего на сверхчеловеческий разум, накопленный к настоящему времени опыт работы с действующими системами ИИ понуждает нас задуматься о другой, возможно, более грозной опасности. Речь идет о том, что внедрение Интернета, компьютеров и роботов в человеческую жизнь – дело вовсе не безобидное: оно может влиять (точнее, уже влияет) на наши самые базовые ментальные функции, приобретенные в течение многих тысячелетий в ходе Великой Эволюции. Получив массовые выгоды от работы с системами ИИ, мы вынуждены будем расплачиваться потерей всего того, что считается уникальными особенностями человеческого разума. По мере совершенствования систем ИИ ситуация будет усугубляться. Поскольку неуемная одержимость в использовании цифровых технологий оказывает глубокое влияние на наше восприятие внешнего мира, такие уникальные человеческие свойства, как эмпатия, сострадание, склонность к творчеству, изобретательность, понимание, интуиция, воображение, нестандартное мышление, метафорическая речь и поэтическое дарование, чувство боли, а также альтруизм, склоннось к аналитике и абстрактному мышлению и многое другое просто постепенно атрофируются и исчезнут из числа репертуара ментальных человеческих способностей. Именно это может привести к полному исчезновению нашего вида с лица земли [Николелис Мигель. Истинный творец всего. – М.: АСТ, 2021, с. 422-433].
Опасность искусственного интеллекта возможна еще в том, что все большее число людей будут использовать его друг против друга [Илон Маск. Его словами. – М.: АСТ, 2023. – с. 55].
А ещё меня, дилетанта, а также многих специалистов IT не оставляет мысль о том, что нельзя исключать вероятность нестандартных действий искусственного интеллекта (подобно южнокорейскому роботу, не запрограммированному на распознание различий между человеком и ящиком с овощами), если однажды ИИ вздумает использовать человеческие тела для каких-то утилитарных целей … И приступит к их уничтожению.
Чтобы такое не произошло, мы уже сегодня должны тщательно продумать систему ограничений, запретов и правил по обеспечению безопасности Homo sapiens. Независимо от прогнозов, при создании любых систем ИИ необходимо предусмотреть комплекс юридических, технических, программных и прочих интеллектуальных мер по охране человека и человечества. В первую очередь предусмотреть жесткое программирование способов распознания тела человека и мер по ненанесению ему вреда.
Безусловно, необходимо отказаться от симбиоза человеческого мозга (а по сути – всего человеческого организма) с ИИ. Должно строжайше соблюдаться условие: человек не должен быть частью ИИ, а ИИ не должен быть доминирующей частью человека. (Электронная интеллектуальная «начинка» возможна у киборгов (послушных человеку), но не у нормальных здоровых людей.).
Вероятно, также следует машинообеспечивающие материальные ресурсы, в первую очередь, энергетические, сохранять под строжайшим контролем людей.
Также определенную роль в контроле развития ИИ и сдерживании катастрофических последствий прогнозируемой сингулярности и неуправляемости ИИ должны сыграть и неосоциалистические тренды (которые неуклонно продолжают развиваться на планете). Социалистическое мироустройство и социалистические преобразования позволят, на мой взгляд, усилить коллективообразующие (кооперативные) тенденции и решить возникающие социальные задачи (в первую очередь – проблему всеобщей занятости и избавления от безработицы).
Кроме того. Поскольку мы еще не вполне осознали, что Земля – наш общий дом, наступила пора поворачивать все воспитательные, политические и социальные процессы на формирование нового человека – Хозяина планеты. Человек ближайшего будущего должен стать не только управителем всех систем искусственного интеллекта, но и рачительным хозяином ресурсов планеты, охранителем животного и растительного мира, полноправным творцом и распорядителем собственного жизнеустройства.
Мне, старому учителю, хорошо известно, что воспитание, в том числе формирование индивидуальности и самосознания, начинается с момента рождения и даже еще раньше, с пренатального периода. Наступает время воспитания человека – Хозяина планеты. И от нас требуется максимум усилий.
Что касается понимания правил безопасности жизнедеятельности – оно формируется всю жизнь, но наиболее интенсивно – в детском и юношеском возрасте. Поэтому есть смысл уже в ближайшие годы ввести в школах курс основ безопасности проектирования, создании и эксплуатации систем искусственного интеллекта.
Вы читали окончание статьи. Начало здесь Автор: Пернай Николай Источник: Журнал "Суждения" Книга "Купола Кремля" здесь Книга "Три власти" здесь и здесь