Историк Юваль Харари уверен — соединение машинного обучения и биологии даст разработчикам неограниченную власть над людьми. У диктаторов тогда появятся новые инструменты подавления и контроля.
Как взломать человека
Человечество стоит на пороге не только технологического, но и философского кризиса, считает историк Юваль Харари, автор книги «Sapiens: Краткая история человечества». В интервью Wired он отметил, что новые технологии формируют новые формы антиутопии. И общество пока не понимает, как адаптироваться к меняющейся реальности.
Харари вывел формулу предстоящего глобального кризиса: B*C*D=HH. В данном случае B — это познания в биологии, C — это вычислительная мощность, а D — это данные. Если помножить их друг на друга, появится возможность взламывать людей (HH — hack humans).
Под взломом исследователь подразумевает возможность управлять человеком на глубинном уровне, то есть контролировать его желания и стремления. Харари опасается, что правительства и корпорации скоро изучат людей настолько, что смогут с легкостью регулировать их мысли.
Технологии отдаленно будут напоминать таргетированную рекламу, только их действие будет более точным, а эффект — стопроцентным.
Ранее историк отмечал, что в сложившихся обстоятельствах привычные философские концепции отмирают. Это касается свободы воли и свободы выбора. Люди ошибочно полагают, что контролируют ситуацию, но на самом деле это не так.
Главное следствие масштабного внедрения искусственного интеллекта — это утрата человеком автономии и авторитета. При этом ИИ не обязательно выходить на один интеллектуальный уровень с людьми и обладать сознанием. Алгоритмам достаточно будет изучить личность досконально, чтобы найти самую слабую точку и запустить процесс манипуляций.
Общество подвержено взлому на всех уровнях, но больше всего Харари пугает биологический. «Эксперты по ИИ могут общаться с философами. С историками — да, пожалуйста. С литературными критиками — замечательно. Но меня пугает их общение с биологами», — признал он в интервью Wired.
Израильский исследователь подчеркивает, что ИИ означает и массу преимуществ. Особенно это касается медицины. Харари подчеркивает, что никто не станет препятствовать внедрению технологии — ведь она способна принести столько пользы людям.
Алгоритмы-манипуляторы
Распространение ИИ в комплекте с биотехнологическими открытиями породит два возможных сценария антиутопии. Первый — надзор-капитализм — даст алгоритмам полную власть над людьми.
Машинный интеллект решит за нас, где жить, работать, с кем встречаться и за кого голосовать.
Второй сценарий предполагает укрепление тоталитаризма и диктатуры, при котором каждый житель Земли — это объект непрерывной слежки. Особую роль в этом процессе сыграют биометрические системы, которые не дадут гражданину скрыться от всевидящего ока государства.
«Во времена Сталина и Гитлера таких технологий не было, но через 20-30 лет они могут появиться», — предупреждает Харари.
Историк подчеркивает: люди могут даже не заметить, как оказались во власти ИИ. Большинство не сможет понять, как работают механизмы алгоритмов и как именно нами манипулируют. Человечество привыкло к традиционным формам объяснения и повествования, но машинный интеллект работает со статистическими данными и оперирует другими понятиями.
Харари считает, что чрезмерное усложнение систем — одна из главных актуальных проблем. Из-за этого, например, ученым все сложнее объяснять свои теории и доносить до аудитории суть открытий.
Важный побочный эффект этого — расцвет теорий заговора. По этой причине сейчас возникает все больше антипрививочников и тех, кто не верит в глобальное потепление.
То же касается и сферы финансов — с каждым годом она усложняется, и некоторые концепции можно объяснить, только если потратить 10 лет на изучение экономики и математики. «В этом тоже выражается философский кризис», — отмечает Харари.
Цифровой колониализм
Он также считает, что сегодня человек борется не с отдельными людьми, а с государствами и корпорациями. Перед лицом таких мощных соперников шансов на успех мало.
Более того, влияние некоторых стран выходит за географические рамки. Историк обвиняет развитые государства и крупные корпорации в цифровом колониализме. Раньше империи выращивали хлопок в Индии или Египте, потом отправляли сырье в Британию, производили одежду и вновь пересылали ее в Индию или Египет, вытесняя местных производителей.
Сейчас то же самое происходит и с данными. Компании «выкачивают» данные из Бразилии и Индонезии, обрабатывают их в США или Китае, а затем создают на их основе продвинутые продукты, которые в итоге распространяют в «колониях».