В первый раз, когда я брал интервью у Эрика Шмидта десять лет назад, когда он был генеральным директором Google, у меня был простой вопрос о технологии, которая стала способной шпионить за всеми нашими движениями, мнениями, отношениями и вкусами и монетизировать их.
"Друг или враг?" Я спросил.
«Мы утверждаем, что мы друзья», - холодно ответил Шмидт.
Теперь, когда у бывшего руководителя Google вышла во вторник книга « Эпоха искусственного интеллекта », написанная с Генри Киссинджером и Дэниелом Хаттенлохером, я хотел задать ему тот же вопрос об искусственном интеллекте: «Друг или враг?»
«ИИ неточен, а это означает, что он может быть ненадежным в качестве партнера», - сказал он, когда мы встретились в его офисе в Челси. «Это динамично в том смысле, что все время меняется. Он возникает и делает то, чего вы не ожидаете. И, что самое главное, он способен учиться.
«Это будет везде. Как выглядит лучший друг с искусственным интеллектом, особенно для ребенка? Как выглядит война с использованием ИИ? Воспринимает ли ИИ аспекты реальности, которых нет у нас? Возможно ли, что ИИ увидит то, что люди не могут понять? »
Я согласен с Илоном Маском в том, что, когда мы создаем ИИ без выключателя, мы «вызываем демона» и что люди могут оказаться, как сказал Стив Возняк , домашними животными в семье. (Если повезет.)
Говоря о тревогах, поднятых такими людьми, как Маск и Стивен Хокинг , Шмидт сказал, что «они думают, что, запустив ИИ, в конечном итоге вы получите робота-повелителя, который в 10, 100 или 1000 раз умнее людей. Мой ответ другой. Я думаю, все доказательства говорят о том, что эти системы искусственного интеллекта будут думать не так, как люди, но они будут очень умными. Нам придется сосуществовать ».
Вы не думаете, что Сири и Алекса убьют нас однажды ночью?
«Нет, - сказал он. «Но они могут стать лучшими друзьями вашего ребенка».
Мнения об ИИ сильно расходятся. Джарон Ланье, отец виртуальной реальности, закатывает глаза на дигератов из Кремниевой долины, одержимых «научно-фантастической фантастикой» ИИ.
«Иногда он может стать гигантским ложным богом», - сказал он мне. «У вас есть эти ботанистые парни, которые имеют ужасную репутацию за то, как они относятся к женщинам, которые становятся творцами жизни. «Вы, женщины, со своими маленькими биологическими утробами, не можете противостоять нам. Мы делаем здесь большую жизнь. Мы супербоги будущего ».
Мы уже давно знаем, что Кремниевая долина ведет нас насмарку. Нелепые заявления, которые когда-то не могли получить поддержку - от демократических колец педофилии до сфальсифицированных выборов и теорий заговора о вакцинах, - теперь распространяются со скоростью света. Девочек-подростков может отправить в депрессию глянцевый обманчивый мир Instagram, принадлежащий жадной и манипулятивной компании, ранее известной как Facebook.
Шмидт сказал, что студент Оксфорда сказал ему о яде в социальных сетях: «Союз скуки и анонимности опасен». Особенно на стыке зависимости и зависти.
Вопрос о том, потеряем ли мы контроль в пользу ИИ, может быть в прошлом. Технологии уже манипулируют нами.
Шмидт признает, что отсутствие предвидения властителей облаков в отношении того, куда движутся технологии, было «глупо».
«Я скажу, 10 лет назад, когда я очень много работал над этими социальными сетями, может быть, это просто наивность, но мы никогда не думали, что правительства будут использовать их против граждан, как в 2016 году, при вмешательстве со стороны россиян.
«Мы не думали, что тогда это объединит эти группы с особыми интересами с этими яростно сильными системами убеждений. Это никто никогда не обсуждал. Я не хочу повторять ту же ошибку снова с новой фундаментальной технологией ».
Он сказал, что Комиссия национальной безопасности по искусственному интеллекту , которую он возглавлял ранее в этом году, пришла к выводу, что Америка все еще «немного впереди Китая» в гонке технологий, но Китай «чрезмерно инвестирует против нас». Авторы пишут, что их больше всего беспокоит то, что другие страны разрабатывают управляемое искусственным интеллектом оружие с «существенным разрушительным потенциалом», которое «может адаптироваться и учиться намного дальше своих намеченных целей».
«Первое, на что мы должны обратить внимание между США и Китаем, - это убедиться, что нет никаких« докторов ». «Сценарий Strangelove», запуск по предупреждению, чтобы убедиться, что есть время для принятия решений людьми », - сказал он. «Давайте представим, что вы находитесь на корабле в будущем, и маленькая компьютерная система говорит капитану:« У вас есть 24 секунды до вашей смерти, потому что на вас летит гиперзвуковая ракета ». Вам нужно нажать эту кнопку сейчас. Вы хотите доверять ИИ, но что, если он ошибется из-за его неточной природы? »
Я спросил, думает ли он, что Facebook может оставить свои проблемы позади, изменив название на Meta.
«Проблема в том, как вы теперь называете акции FAANG? МААНГ? » он сказал о крупнейших технологических акциях - Facebook, Apple, Amazon, Netflix и Google. «Google сменила название на Alphabet, но, тем не менее, Google по-прежнему оставалась Google».
И что за жуткая метавселенная, в которую нас пытается заманить Цукерберг?
«Все люди, которые говорят о метавселенных, говорят о мирах, которые приносят большее удовлетворение, чем текущий мир - вы богаче, красивее, красивее, мощнее, быстрее. Итак, через несколько лет люди будут проводить больше времени в метавселенной в очках. А кто устанавливает правила? Мир станет более цифровым, чем физическим. И это не обязательно лучшее для человеческого общества ».
Шмидт сказал, что его книга ставит вопросы, на которые пока нет ответа.
К сожалению для нас, мы не узнаем ответов, пока не станет слишком поздно.