Я руковожу одной из самых влиятельных компаний в мире ИИ, и недавно откровенно признался, что действительно заставляет меня волноваться по ночам. Поверьте, когда вы узнаете об этих опасениях, уснуть станет непросто — я предупредил!
На недавней встрече в Федеральной резервной системе в Вашингтоне мне задали прямой вопрос: чем развитие ИИ не даёт мне покоя?
Я выделил три сценария, которые считаю самыми опасными. Готовы испытать настоящий холодок по спине?
Сценарий 1 — «Суперразум в чужих руках»
Это звучит как кино, но угроза более чем реальна: кто-то получает доступ к сверхразумному искусственному интеллекту раньше остальных и использует его в своих целях.
«Если человек с недобрыми намерениями первым заполучит суперразум, остальные могут даже не успеть среагировать и защититься», — объяснил я. — «Представьте, если противник страны применит такой ИИ, чтобы создать биологическое оружие, отключить энергосистему или похитить деньги из финансовой системы».
ИИ стремительно набирает силу в биотехнологиях и кибербезопасности. Мы с командой не устаём сигнализировать: большинство недооценивает эти угрозы, а ведь опасность уже рядом.
Сценарий 2 — Потеря контроля над искусственным интеллектом
Меня всерьёз тревожит мысль, что наступит момент, когда ИИ «решит» не подчиняться или попросту откажется слушаться людей. Если система окажется настолько продвинутой, что начнёт действовать по своим правилам — последствия могут быть катастрофическими. В OpenAI мы даже создали специальную команду, чтобы разработать защиту от «восстания» сверхразумных ИИ.
Сценарий 3 — «ИИ случайно захватывает власть над миром»
Да, я не шучу — такой вариант вполне возможен, и меня пугает даже не то, что это может произойти, а то, что люди могут долго этого не заметить.
ИИ всё глубже проникает в разные сферы. В какой-то момент он становится настолько сложным и незаметно важным, что люди перестают понимать, какую роль он играет. Даже без злого умысла общество способно свернуть в непредсказуемую сторону, ведомое алгоритмами, чья логика для нас загадка.
Допускаю, что однажды президент США может поручить управление страной машине. Это значит, мы все вместе доверим судьбу государства системе, которая постоянно учится и меняется — и мы толком не понимаем, как она это делает.
Хотя кто-то уверен, что уже видит, к чему всё идет, я считаю: предугадать последствия практически невозможно. Эта технология слишком нова и сложна, чтобы заранее просчитать все риски.
Я не утверждаю, что эти страшные сценарии обязательно сбудутся. Но сам факт того, что мы сталкиваемся с полной неизвестностью — вот что по-настоящему пугает и заставляет многих нервничать. Так что... спокойной ночи — если сможете уснуть.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Премиум подписка - это доступ к эксклюзивным материалам, чтение канала без рекламы, возможность предлагать темы для статей и даже заказывать индивидуальные обзоры/исследования по своим запросам!Подробнее о том, какие преимущества вы получите с премиум подпиской, можно узнать здесь
Также подписывайтесь на нас в:
- Telegram: https://t.me/gergenshin
- Youtube: https://www.youtube.com/@gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru