Британско-канадский ученый-компьютерщик, которого часто называют "крестным отцом" искусственного интеллекта, повысил вероятность того, что ИИ уничтожит человечество в течение следующих трех десятилетий. Темпы изменений в технологии "намного быстрее", чем ожидалось, предупредил он.
Профессор Джеффри Хинтон в этом году был удостоен Нобелевской премии по физике за свою работу в области искусственного интеллекта. Ранее он говорил, что развитие этой технологии с вероятностью в 10% приведет к катастрофическим последствиям для человека.
На днях в программе Today на BBC Radio 4 в ответ на вопрос о том, не изменил ли он свой прогноз, ученый заявил "на самом деле нет" и добавил, что сейчас вероятность такого сценария составляет от 10 до 20%.
"Нам никогда раньше не приходилось иметь дело с более умными существами, чем мы сами. А сколько вы знаете примеров, когда более разумное существо управляется менее разумным существом? Их очень мало. Вот мать и ребенок. Эволюция приложила немало усилий, чтобы позволить ребенку контролировать мать, но это, пожалуй, единственный известный мне пример", - сказал Хинтон.
По его словам, люди будут подобны младенцам по сравнению с интеллектом мощных систем ИИ.
"Мне нравится думать об этом так: представьте себя и трехлетнего ребенка. Мы будем трехлетними детьми", - сказал он.
В прошлом году Хинтон уволился из Google, чтобы "свободно говорить о рисках, связанных с искусственным интеллектом", и заявил, что сожалеет о работе всей своей жизни. Уже тогда он высказывал опасения, что "злоумышленники" будут использовать эту технологию во вред другим. Но главная проблема, по мнению активистов кампании за безопасность ИИ, заключается в потенциальной угрозе существованию людей, если такие системы станут умнее человека и выйдут из-под его контроля.
Хинтон признался, что сам не ожидал такого быстрого прогресса в развитии ИИ, когда только начинал работу в этой сфере. Он полагал, что к тому состоянию, в котором технология находится сейчас, она придет лишь когда-нибудь в более отдаленном будущем.
В стремлении получить прибыль крупные компании в сфере ИИ не будет уделять достаточно внимания тому, чтобы обеспечить безопасности этих разработок. И только государственное регулирование может заставить их проводить больше исследований в области безопасности, считает Хинтон.