Джеффри Хинтон, вице-президент и инженер Google, ушёл в отставку после 10 лет работы в компании. Он был мозгом, стоящим за некоторыми из самых важных методов современного искусственного интеллекта в компании.
По словам Хинтона, он покидает компанию из-за опасений по поводу технологии, которую сам же помогал разрабатывать. По его словам, уход из компании поможет ему говорить об этом открыто. Он также заявил, что сожалеет об этой части своей трудовой жизни.
Позже Хинтон выступит перед MIT Tecnology Review в EmTech Digital. Это будет его первое интервью после отставки. В 2018 году он получил Нобелевскую премию по информатике вместе с Яном Лекуном и Йошуа Бенжио.
По словам Лекуна, который является главным специалистом по ИИ в компании Meta*, Джефф внёс огромный вклад в развитие искусственного интеллекта.
«Он не говорил мне, что планирует уйти, но я не удивлен», — добавил Ян.
В 2013 году компания Google приобрела стартап Джеффа DNNresearch. С тех пор 75-летний учёный работал как в Университете Торонто, так и в Google. Хинтон создал свой стартап на базе собственной исследовательской группы. Она занималась продвинутым машинным обучением для распознавания изображений. Благодаря этой функции поиск изображений в Google стал намного проще.
Может ли искусственный интеллект Google иметь какие-то связи с военными США?
В течение некоторого времени Хинтон высказывал опасения по поводу использования искусственного интеллекта, особенно в военных целях. Он также объяснил, почему провёл большую часть времени в Канаде и подчеркнул, что в США трудно получить финансирование, не связанное с американскими военными. Однако в Канаде всё иначе, и это объясняет, почему он провёл большую часть своей жизни в этой стране.
По поводу своей отставки главный исследователь Google высказался о своём опыте работы с Хинтоном:
«Джефф совершил фундаментальные прорывы в области ИИ, и мы высоко ценим его десятилетний вклад в работу Google. Я получал глубокое удовольствие от наших многочисленных бесед на протяжении многих лет. Мне будет его не хватать, и я желаю ему всего хорошего», – сказал он.
В 1980-х годах Хинтон и двое его коллег предложили алгоритм под названием Backpropagation. Он позволяет компьютеру учиться и совершенствоваться в решении задач. Сегодня это основной метод, на котором основаны почти все технологии машинного обучения. Такой метод работает регулируя связи между различными частями мозга компьютера до тех пор, пока не получит правильный ответ. Это происходит снова и снова, пока компьютер не научится выполнять поставленную перед ним задачу.
Хинтон считал, что Backpropagation работает точно так же, как работает человеческий мозг в процессе обучения. Он даже пошёл дальше, пытаясь его усовершенствовать. Однако оказалось, что другого способа сделать алгоритм лучше не существует.
В своём заявлении профессор Монреальского университета и научный директор Монреальского института алгоритмов обучения сказал, что Хинтон заслуживает большой признательности за то, что сегодня машинное обучение стало возможным.
«Я предполагаю, что это также заставляет его испытывать особенно сильное чувство ответственности за предупреждение общественности о потенциальных рисках, связанных с последующими достижениями в области ИИ», – добавил он.
Эта новость вызвала ошеломление во всем мире. Чего мы должны бояться? Неужели Google использует преимущества машинного обучения для создания чего-то опасного? Как насчёт упоминания американских военных? Вот некоторые из вопросов, которые задают люди. Конечно, большинство из них могут получить ответы во время интервью.
В интервью MIT Technology Review Хинтон, несомненно, расскажет больше о главной причине своей отставки. Какой бы она ни была, вопросы, связанные с его технологией Backpropagation в отношении связей с американскими военными, звучат не очень радужно. В этом определённо есть что-то пугающее. До публикации интервью осталось всего несколько дней, поэтому будем следить за новостями.
🛑
*Компания Meta, а также принадлежащие ей соцсети Facebook и Instagram, признаны экстремистскими и запрещены на территории РФ.
Ещё по теме: