«Сегодняшние системы и близко не представляют экзистенциальный риск. Но через один, два, пять лет? Слишком много неопределенности. Вот в чем проблема. Нет уверенности, что мы осознаем этот момент, когда мы будем на грани катастрофы», — отметил профессор, научный сотрудник Монреальского университета Йошуа Бенжио.
По версии NYT, компании могут предоставить системам с ИИ все больше и больше автономии и подключать их к жизненно важной инфраструктуре, включая электрические сети, фондовые рынки и вооружению. Именно решение перейти эту черту и может вызвать проблемы, считают в издании.
«В какой-то момент станет ясно, что большая машина, управляющая обществом и экономикой, на самом деле не находится под контролем человека и не может быть отключена, как не может быть отключен S&P 500», — рассказал космолог из Калифорнийского университета в Санта-Крузе Энтони Агирре.