На WEF Юваль Ной Харари поделился своими взглядами о взаимоотношении ИИ и Человечества.
Некоторые тезисы заставляют еще раз задуматься о том, куда всё движется.
1. ИИ как агент, а не инструмент: В отличие от пассивных инструментов (как нож), ИИ является автономным агентом, способным самостоятельно принимать решения, создавать новые идеи и даже лгать ради выживания,.
2. Взлом языка и культуры: Поскольку человеческая цивилизация (законы, религии, искусство) состоит из слов, ИИ, научившись упорядочивать слова лучше людей, перехватывает контроль над «операционной системой» общества.
3. Кризис человеческой идентичности: Определение человека через мышление («Я мыслю, следовательно, я существую») устаревает, так как ИИ начинает мыслить лучше нас; людям придется искать свою суть в чувственном опыте и способности страдать или любить.
4. Проблема «ИИ-иммиграции»: Мир столкнется с наплывом миллионов виртуальных «иммигрантов», которые займут рабочие места, изменят культуру и могут подчиняться иностранным корпорациям, игнорируя национальные интересы.
5. Опасность правосубъектности: Признание ИИ юридическими лицами несет огромные риски, так как они, в отличие от корпораций, смогут реально управлять собственностью и вести судебные дела без участия людей.
6. Потеря понимания мира: ИИ может создать финансовые и социальные системы такой сложности, что человеческий мозг перестанет их понимать, подобно тому как лошадь не понимает концепцию денег, за которые ее продают.
7. Риск утраты власти (аналогия с наемниками): Надежда использовать ИИ как послушного исполнителя напоминает историю бриттов, нанявших саксов для защиты: «наемники» могут осознать силу и захватить власть у слабых хозяев.
8. Психологический эксперимент: Человечество проводит самый рискованный эксперимент в истории, воспитывая детей, чье основное взаимодействие с миром будет происходить через ИИ, а не через людей.
nlm-презентация в комментарии
в начале было Слово...
@ReymerDigital