Стэнфорд помог проложить путь в создании искусственного интеллекта. Теперь университет хочет поставить во главу угла человека.
Дальше будет лонгрид, но тема крайне важная для развития современного общества и технологий.
Ученый из Стэнфордского университета ввел термин «искусственный интеллект». Другие представители университета создали некоторые из самых значительных его применений, такие как первый автономный автомобиль.
Но поскольку Силиконовая долина сталкивается с вопросом о том, как технологии меняют общество, Стэнфорд хочет задавать тон инновациям другого типа, таким, которые поставят человека и этику в центр процветающей сферы ИИ.
18 марта 2019 года университет откроет Стэнфордский Институт Искусственного Интеллекта, ориентированный на человека (HAI) – обширный аналитический центр, цель которого – стать междисциплинарным центром для политиков, исследователей и студентов, которые будут разрабатывать технологии будущего. Они надеются, что смогут привить следующему поколению более мирские и гуманные ценности, чем те, что были прежде, и побудить политиков принимать более продуманные решения по сложным социальным вопросам, связанным с технологиями.
«Я и предположить не мог, что дисциплина, которая меня так заинтересовала, через полтора десятилетия станет одной из движущих сил тех перемен, которым подвергнется человечество», - сказала Фей-Фей Ли, пионер ИИ и бывший вице-президент Google, являющаяся одной из двух директоров нового института. «Это осознание дает огромное чувство ответственности».
Институт, поддерживаемый крупнейшими лидерами отрасли и игроками в индустрии, - не первый академический проект такого рода, но он, безусловно, самый амбициозный: его цель – собрать более $1 млрд. А его консультативный совет – это главные лица в Силиконовой долине, включая бывшего исполнительного председателя Google Эрика Шмидта, соучредителя LinkedIn Рида Хоффмана, бывшего исполнительного директора Yahoo Мариссу Майер и их соучредителя Джерри Янга и известного инвестора Джима Брейера. Сооснователь Microsoft Билл Гейтс выступит с речью на первом симпозиуме.
Собранные деньги пойдут не только на исследовательские гранты и академические сборы, но также на приобретение оборудования для обработки данных и на привлечение талантливых людей, которые в последние годы покинули академические круги для получения выгодных рабочих мест. Институт разместится в новом здании площадью в 200 000 кв. футов в центре кампуса Стэнфорда.
«Мы понимаем, что решения, которые принимались на ранних этапах развития технологий, имеют огромные последствия», - сказал Джон Этчеменди, философ и бывший стэнфордский проректор, второй директор института ИИ. «Мы должны задуматься о том, какими они могут быть, а для этого мы не можем полагаться только на технологов».
Идея создания института появилась во время беседы между Ли и Этчеменди в 2016 году, происходившей на подъездной дороге Ли, в пяти минутах езды от кампуса.
Этчеменди недавно купил дом по соседству. И случайная соседская беседа быстро переросла в более весомый диалог о будущем общества и о том, что же пошло не так во взрывающейся области ИИ. Миллиарды долларов вкладывались в стартапы, посвященные коммерциализации ранее нишевых научных технологий. Такие компании, как Facebook, Apple и Google нанимали лучших исследователей в области искусственного интеллекта наряду со многими недавними выпускниками для работы в новых подразделениях, посвященных робототехнике, самоуправляемым автомобилям и системам распознавания голоса для домашних устройств.
«Правильный ответ практически на все в области ИИ лежит за ее пределами», - сказал Шмидт, бывший председатель Google. «Это поколение гораздо более социально сознательно, нежели наше, и больше обеспокоено последствиями всего, что они делают, поэтому вы увидите сочетание оптимизма и реализма».
За годы, последовавшие за беседой на подъездной дорожке, опасности и проблемы ИИ стали более очевидными. Кажется, что каждый день появляются новые статистические данные о потере рабочих мест, вызванной технологиями, от дальнобойщиков до фермеров и дерматологов.
Илон Маск назвал ИИ «экзистенциальной угрозой человечества» и сравнил его с «вызовом демона».
Исследователи и журналисты показали, как технологии ИИ, в основном разработанные белыми и азиатскими мужчинами, имеют тенденцию усугублять социальные предубеждения. Технологии компьютерного зрения, встроенные в камеры, затрудняют распознавание лиц цветных людей. Распознавание голоса с трудом разбирает не широко распространенные акценты английского. Алгоритмы, разработанные для прогнозирования нарушений условно-досрочного освобождения, изобилуют расовыми предрассудками.
Есть и политические последствия: система рекомендаций, предназначенная для таргетированной рекламы, использовалась злоумышленниками, в том числе русскими оперативниками для усиления дезинформации и ложных утверждений в публичных обсуждениях.
«Вопрос сводится к тому, будет ли эта революция ИИ и современных методов машинного обучения способствовать прогрессу человечества», - сказал Хоффман, возглавляющий консультативный совет института. Он назвал институт Стэнфорда потенциальным «ключевым рычагом», который будет действовать как «катализатор», доверенный советник и источник информации для индустрии, правительства и общественности. (В прошлом году Хоффман в столкнулся с неприятностями после того, как отчеты показали, что он финансировал программу дезинформации в Facebook во время выборов в Алабаме. Он утверждал, что не знал, что его деньги использовались таким образом.)
В то время как университеты в последние годы подверглись осуждению за привлечение больших сумм денег, и Стэнфорд является одним из крупнейших по сбору средств, деньги особенно необходимы, чтобы университеты оставались конкурентоспособными в области ИИ, утверждает Джеймс Маника, член консультативного совета и директор McKinsey Global Institute. Деньги будут использованы не только для удержания талантливых кадров, но и для финансирования дорогостоящей техники для обработки данных, которая сможет запускать программы искусственного интеллекта в полном масштабе.
«Цель состоит в том, чтобы обладать ресурсами, которые позволят Стэнфорду быть конкурентоспособным», говорит Маника. «Если у исследователей в Стэнфорде будет доступ к вычислениям, это значительно сократит утечку умных кадров в корпоративные лаборатории».
Шмидт сказал, что наблюдал «переломный момент» в прошлом году или около того, когда факультеты информатики по всей стране стали добавлять курсы по этике искусственного интеллекта, а крупные компании вроде Google стали объявлять принципы работы с ИИ и создавать внутренние программы, чтобы избавиться от необъективности и предубеждения в используемом ими программном обеспечении. Шмидт утверждает, что программа Стэнфорда поднимет и централизует эти особые усилия, а также внесет вклад в развитие области в целом.
Один из самых больших вопросов, на которые HAI предстоит ответить, - это та степень, в которой институт займет принципиальные позиции в отношении самых сложных текущих проблем, в которые Ли и другие связанные с HAI люди напрямую вовлечены. В прошлом году, когда Ли управляла подразделением искусственного интеллекта в Google Cloud, Google начал полемику из-за контракта с Пентагоном по усовершенствованию технологии искусственного интеллекта, которая может сканировать видеозаписи, поступающие с дронов. Многие сотрудники Google выступали против контракта, а некоторые даже покинули компанию.
Ли предостерегла своих коллег от использования термина «искусственный интеллект» при обсуждении контракта из-за деликатности темы, согласно New York Times и подтверждению самой Ли. Этчеменди сказал, что HAI не стал бы принимать чьей-либо стороны или диктовать решения другим организациям.
Этчеменди утверждает, что 200 преподавателей из таких департаментов, как юриспруденция и антропология, уже подали заявку на финансирование из центра. 55 уже получили гранты на изучение влияния ИИ в таких областях, как принятие медицинских решений, гендерные предрассудки и переселение беженцев. По его словам, одной из самых сильных сторон института станет его приверженность разнообразию в профессиях и набор экспертов из областей, традиционно не связанных с искусственным интеллектом.
Ставьте лайки, подписывайтесь, чтобы ничего не пропустить!