Он сказал это с абсолютно серьезным лицом...
Когда вы читали гениальное произведение Джорджа Оруэлла «1984», не думали ли вы: «Это отличная идея!»? Если у вас больше двух работающих мозговых клеток, то, скорее всего, нет. Этот печально известный роман изображает ужасы полицейского государства, подкрепленного технологиями слежки. Граждане находятся под наблюдением 24/7 и арестовываются, если их обвиняют в нарушении закона. С таким огромным превышением полномочий правительство становится до крайности репрессивным и готово «испарять» людей за даже самое незначительное проявление критики. Однако, похоже, миллиардер Ларри Эллисон, основатель IT-гиганта Oracle, считает, что это отличная идея. Более того, он хочет использовать ИИ, чтобы сделать «1984» реальностью и превратить США в государство тотальной слежки, причем сам он, как и следовало ожидать, получит от этого огромную выгоду.
Эллисон впервые объявил о своем дистопическом замысле на публичной встрече Oracle. Он заявил, что ИИ находится на пороге новой эры массовой слежки, и Oracle готова стать технологической основой для такого приложения. Эллисон с энтузиазмом описал мир, где всех постоянно контролирует ИИ в реальном времени. Идея заключается в том, что ИИ будет отслеживать все наши действия, чтобы выявлять и сообщать о преступлениях, тем самым обеспечивая обязательную подотчетность каждого и, по словам Эллисона, заставляя всех «вести себя как положено».
Эллисон описал сценарий, в котором полиция оснащена нательными камерами, которые невозможно отключить, что позволяет системе ИИ Oracle круглосуточно следить за ними. Эллисон заявил, что это означает, что «полиция будет вести себя как положено, потому что мы постоянно наблюдаем и записываем все, что происходит», и утверждал, что «если возникнет проблема, ИИ сообщит об этом соответствующему лицу».
Но Эллисон также утверждал, что «граждане будут вести себя как положено, потому что мы постоянно записываем и сообщаем». Он не уточнил, каким образом этот вездесущий ИИ будет непрерывно следить за гражданами, но поскольку Oracle изначально создавалась как проект ЦРУ и имеет связи с АНБ, а у каждого из нас есть устройство с интернетом, высококачественной камерой и микрофоном, ношение которого стало повсеместным, можно предположить, что это не составит труда.
Разумеется, эта идея абсурдна и бесполезна.
Во-первых, постоянный мониторинг и доклады о поведении полиции вряд ли изменят их поведение. Ведь кому этот ИИ будет сообщать о преступлениях полиции? Полиции… Вот почему одной из главных проблем полиции по всему миру является тенденция к институциональной коррупции и защите своих, что позволяет высшим чинам избегать наказания за серьезные преступления, даже если о них сообщают. Например, согласно текущим данным правительства, половина случаев убийств, совершенных полицией в США, не расследуется! Таким образом, этот инструмент ИИ вряд ли сильно изменит поведение полиции.
Кроме того, полиция в США не славится высокой подготовкой, применением соразмерной силы или непогрешимой профессиональностью. Поэтому можно с уверенностью сказать, что наводнение их бесконечными отчетами о преступлениях, полученными от вездесущего ИИ, может привести к крайне опасным ситуациям.
Эта проблема усугубляется тем, что ИИ не является 100% точным. Он склонен к «галлюцинациям» и даже лучшие ИИ часто не могут распознать базовые шаблоны с тревожной частотой. Следовательно, этот ИИ может регулярно организовывать «SWAT» (если вы не знаете, что это, прочитайте здесь) на людей, ошибочно утверждая, что человек совершил серьезное преступление, которого он на самом деле не совершал. Напомним, что с 2015 года более 22 человек были убиты полицией при операциях SWAT!
Таким образом, это, в сочетании с тем, насколько неточен ИИ в предсказаниях и интерпретации человеческого поведения, вызовет огромное напряжение среди населения, даже если оно соблюдает законы.
И есть еще одна ужасная ошибка в этом плане. Демократия в США далека от безопасности. Ее обманывают и манипулируют лоббисты уже более века, и авторитарные и антидемократические фигуры с самого основания государства получают глубокое влияние на правительство. Также у страны есть история нарушений прав и конфиденциальности граждан ради государственной безопасности, что можно увидеть на примере Патриотического акта. Эти факторы, в сочетании с волной современных крайне правых политических движений, которые сумели закрепиться в американской политике, делают предоставление правительству США такой тиранической власти над гражданами скользким путем к кошмару, предсказанному Оруэллом, где даже «мыслипреступления» могут караться самыми строгими наказаниями.
Также не стоит забывать, что незаконный поступок не всегда означает, что он аморален. Западные правительства имеют историю криминализации движений, которые их критикуют. Таким образом, протесты против несправедливых или незаконных войн, или климатические активисты, борющиеся за лучшее будущее, часто сурово и несправедливо преследуются государством. А ведь именно такие движения являются основным двигателем культурной эволюции и причиной, по которой мы обладаем свободами, о которых наши предки могли только мечтать. Деспотичный ИИ Эллисона может подавить эту важную культурную эволюцию.
Но даже если бы Эллисон нашел способ устранить все эти недостатки, это все равно не решило бы проблему преступности в США. Многие исследования показывают, что большинство преступлений обусловлено неблагоприятными социальными, экономическими, культурными и семейными условиями. Иными словами, большая часть преступности в США порождена институциональным расизмом, классовым неравенством, практически несуществующей системой социального обеспечения и посткапиталистической экономикой. Если еще проще, большинство людей совершают преступления в США, потому что вынуждены, а не потому, что хотят. Как бы строго вы ни наказывали этих людей за их преступления, у них практически нет альтернативы, поэтому они будут продолжать. Так что если вы хотите уменьшить уровень преступности, улучшите условия жизни этих людей и предоставьте им другие возможности через реформы в социальной поддержке, создании рабочих мест, доступном жилье, социальных программах для всех возрастов и здравоохранении. Это не так уж сложно.
К сожалению, многие миллиардеры и крайне правые не могут принять это, потому что это противоречит их представлению «мы против них», где они считают себя частью группы, которая по определению «лучше». Это также идет вразрез с их идеалами крайнего индивидуализма и требует от них участия в заботе о обществе.
Но я не думаю, что Эллисон предлагает это ужасное будущее по политическим причинам. Нет, я считаю, что причина кроется в холодных, расчетливых деньгах. Понимаете, как единственный способ заработать на «золотой лихорадке» был в продаже лопат, Oracle является одной из немногих компаний, которая действительно извлекает прибыль из бума ИИ. Почти каждая крупная компания, работающая с ИИ, использует центры обработки данных Oracle. Но даже самые большие ИИ, которые у нас есть сегодня, не потребуют столько инфраструктуры, сколько потребует предложенная Эллиcоном система «Большого брата». Таким образом, это полицейское государство на основе ИИ, построенное на инфраструктуре Oracle, может оказаться самой выгодной сделкой, которую Эллисон и Oracle когда-либо заключат. Похоже, что Эллисон готов заключить эту сделку, несмотря на то, насколько горьким будет результат для таких, как вы и я.