OpenAI, ведущая компания в области ИИ, обеспокоилась потенциальной угрозой от «cвepxpaзyмнoгo» искусственного интеллекта, кажущимся чем-то далёким, однако способным стать чем-то реальным уже в ближaйшиe лет 10 и потому объявила о создании команды под названием "Superalignment".
Цель новой команды - разработка ИИ с человеческим уровнем интеллекта, способного эффективно контролировать продвинутые системы. В планах у OpenAI задействовать не менее 20% от своей вычиcлитeльнoй мoщнocти для развития этого проекта.
То есть, одна из главных задач "Superalignment" - создание ИИ, который сможет принимать решения с учётом множества факторов и следуя определенным этическим принципам, то есть учитывать ещё и последствия для человека и общества в целом в силу заложенной разработчиками человекоориентированности.
Также будет проведена работа и над созданием интерфейсов, которые позволят людям не только общаться с искусственным суперинтеллектом, но и контролировать его действия.
Вот только сразу возникает вопрос, а как, собственно, интеллект, равный человеческому, будет контролировать сверхинтеллект?! Мне кажется, что человек слишком высокого мнения о своих умственных способностях и это, мягко говоря, заблуждение может привести к глобальной техногенной катастрофе.
Вот у людей всегда так: сначала что-то создаём, а потом боремся с этим. Сара Коннор, ты нужна в этой команде…
Друзья, если эта информация была вам интересна, ставьте лайки, делайте репосты в социальных сетях и чтобы не пропустить новые публикации, подписывайтесь на мой канал. На нём подобная информация публикуется ежедневно и есть возможность её обсудить в комментариях.
Спасибо, что дочитали.
Смотрите также:
Искусственный интеллект встал на путь конвенциональной битвы или Что там говорила Сара Коннор?
Издательства New York Times, MarketWatch и др. объединяются в борьбе против искусственного интеллекта
Дожили… нейросеть теперь будет влиять на умы и души людей, изображая священников
Создан переводчик с токсичного языка на русский вежливый
Учёными было обнаружено, что те, кто постоянно работает с системами ИИ, чаще других страдают от одиночества
Почему нейросеть опаснее, чем это кажется нам
Пчёлы будут обучать искусственный интеллект
Как слабовидящий человек может «посмотреть» на окружающий мир новым «взглядом»
Нейросеть сможет заменить детям живых учителей – так пророчит Гейтс