Бывший руководитель Google Эрик Шмидт предупреждает, что вскоре компьютеры смогут принимать собственные решения. В этот момент людям придется отключить их отказаться от ИИ, сказал экс-генеральный директор Google.
Эрик Шмидт предупреждает об опасностях ИИ В интервью от 15 декабря каналу ABC News Шмидт заявил, что люди должны использовать преимущества ИИ, «сохраняя при этом человеческое достоинство и человеческие ценности». Но это сделать очень сложно.
Дело в том, что социальные сети быстро изменили глобальный дух времени, «и теперь используется гораздо более умный, гораздо более мощный способ отправки сообщений, изобретаются новые вещи». Также растут темпы инноваций, «создаются лекарства и многие плохие вещи, такие как оружие, и учащаются кибератаки».
Шмидт уверен, что скоро появятся компьютеры, которые «работают сами по себе и решают, что они хотят делать». Хотя в настоящее время отрасль уделяет больше внимания агентам искусственного интеллекта, у этой технологии будут «более важные цели».
«В какой-то момент вы говорите компьютеру: "Научись чему угодно и делай что угодно", и это опасный момент», — говорит Шмидт.
Если система сможет улучшиться сама, «нужно серьезно подумать о том, чтобы отключить ее». Он также считает, что опасность того, что мощная система искусственного интеллекта сможет противодействовать попыткам ее отключить, реальна: «Теоретически, нам было бы лучше, если бы кто-то мог отключить систему».
Шмидт также задается вопросом, есть ли смысл «каждому человеку иметь в кармане такой мощный инструмент». Неизвестно, «что значит дать каждому человеку такие возможности».
Он также беспокоится о том, что может сделать компания, которая хочет оставаться впереди гонки ИИ. Возможно, этапы тестирования безопасности будут пропущены, что может привести к тому, что компания выпустит вредоносную систему.
Правительства в настоящее время «пока» не делают достаточно для регулирования ИИ на пути к сверхразуму. Шмидт, однако, уверен, что «они сделают это, потому что вынуждены».
Бывший руководитель Google также обеспокоен прогрессом Китая в секторе искусственного интеллекта. Хотя США в настоящее время все еще «на несколько лет опережают Китай», Поднебесная быстро догоняет Штаты. При этом, администрации Трампа и Байдена пытались ограничить доступ Китая к передовым чипам и другим технологиям.
«Крайне важно, чтобы Америка выиграла эту гонку, в глобальном масштабе и особенно опередив Китай», — предупреждает Шмидт.
В этом плане он рассчитывает на новое правительство США, которое «в основном сосредоточится на конфликте между Китаем и США». Фактически обе страны лидируют в разных областях сектора искусственного интеллекта.
США в настоящее время являются технологическим лидером, главным образом, в области фундаментальных исследований и передовых технологий, а Китай – лидером в масштабировании и внедрении систем искусственного интеллекта на широком уровне, в первую очередь за счет огромных массивов данных от собственного населения.