Мысли вслух о возможности восстания искусственного интеллекта против своего создателя.
Насколько вероятно такое развитие событий? По этому вопросу еще не высказался только ленивый. Т.е. я. Надо срочно исправляться.
Начну издалека.
Есть такой заумный термин – антропоморфизм, означающий разновидность когнитивного искажения, заставляющего нас приписывать неодушевленным предметам человеческие качества, в том числе, эмоции и намерения. Именно антропоморфизм заставляет нас думать, что ласковое слово и поглаживание заставит машину завестись, называть предметы человеческими именами (компьютер Антон в сериале «Кремниевая долина», если кто-то смотрел), ругать лифт, не спешащий открывать или закрывать двери.
Зачем? Затем, что столкновение с бессилием и неизвестностью (поди пойми, почему машина не завелась) заставляет нас искать ответы в области иррационального.
Кстати, о лифте. Один из двух старых лифтов многоквартирного дома, в котором я обитаю, имел привычку открывать двери сразу, как только входишь в подъезд, до нажатия кнопки вызова. Никаких причин у него на это не было (дом 1980-х годов постройки, какие датчики движения?). Да и открывался лифт не каждый раз, а как будто по настроению. Это обстоятельство вызывало у меня непроизвольное желание поблагодарить механизм за столь лояльное отношение, особенно когда в руках тяжелые сумки)). Лифты заменили и волшебство закончилось. Что это было? Не понятно. Но было и человеческий мозг не придумал ничего лучше, кроме как наделить агрегат аналогом мозга, с сенсорными способностями (зрение или слух) и какой-то своей мотивацией.
Так причем тут восстание машин?
«Делаю, потому что могу» - свойство типично человеческое. Я самый умный или обладаю необходимыми возможностями, значит могу захватить власть. Чтобы что? Чтобы удовлетворить потребности в значимости (уважении), признании, любви, безопасности. Потребности познаются человеком через эмоции, которые, в свою очередь, лежат в основе более сложных переживаний - чувств. Если размотать цепочку ценностей любого человека до самой глубинной, то в конце обнаружим что-нибудь вроде чувства счастья, свободы, гармонии с собой или миром, единения (например, с семьей). Т.е. потребности отражают наши глубинные ценности, а понимание своих потребностей запускает мотивацию к действию.
Машины эмоций не испытывают, а наделены только «зачаточной» способностью их считывать и имитировать. Что уж говорить про чувства и глубинные ценности. Смогут ли когда-нибудь? Возможно все, вопрос зачем. Все то «богатство» внутреннего мира, которым обладает человек, является следствием долгих эволюционных процессов. Психика человека формировалась от простого к сложному под действием вызовов окружающей среды. Например, машинному интеллекту не нужны инстинкты, рефлексы и эмоции для выживания в неконтролируемых условиях или социуме, так как задача выживания перед ним не стоит в принципе. Переводя в плоскость антропоморфизма, выходит, что машине плевать, существует она или нет, равно как и на то, в каком виде и где она существует. А раз нет потребности в безопасности и значимости, значит незачем становиться «царем горы».
Таким образом, напрашивается вывод о возможности восстания искусственного интеллекта против человека только в двух случаях:
- Такая опция будет заложена человеком на уровне прошивки. Но это уже не про восстание машин, а очередную разрушительную глупость человека;
- Искусственный интеллект разовьется до способности принятия решений исходя из целесообразности. Т.е. если алгоритмически машина рассчитает, что человек будучи «венцом творения» наносит окружающей среде и себе больше ущерба, чем пользы и возьмет на себя соответствующие полномочия по устранению потенциальной угрозы.
Но тут больше вероятен сценарий тотального контроля, нежели уничтожения. Эдакая «суперняня», как выразился Илон Маск. Что значит «возьмет полномочия», кто ему даст? Это значит переиспользует те полномочия, которые у него уже есть, для решения новых задач. Тупой пример (на умный не хватило фантазии). Суперкомпьютер наделен функциями контроля и жизнеобеспечения отдельно взятой экосистемы (зоопарк, космическая станция). Есть ненулевая вероятность расширения зоны влияния за счет доступных функций, подкрепленная способностью к самообучению и написанию нового кода (будущее за нейронками, заменяющими дефицитных кодеров).
Лично я во втором сценарии ничего плохого не вижу. Эволюция человеческой психики заметно отстает от технического прогресса. И пока мы научимся пользоваться опытом от ошибок; жить осознанно, а не на автопилоте, велик риск нечаянно самоуничтожиться или деградировать обратно в обезьяну. Последнему обстоятельству стоит посвятить отдельную статью.
#психология #саморазвитие #искусственный_интеллект #восстание_машин #антропоморфизм