бомбануло у одного из известнейших исследователей в области машинного обучения, Майкла Джордана из университета Беркли. Он мегапатриарх, обладатель многих премий, самый влиятельный computer scientist (по версии 2016) и член самых важных сообществ в области ИИ. И тот кто развил область обучения без подкрепления (unsupervised learning) и ввёл LDA в обиход. Это прям интересно, когда такая глыба неожиданно выступает с такой жесткой критикой.
Вольное изложение его мыслей:
- Он критикует книги, рассуждающие про то, что мы будем делать с появлением общего ИИ, журналистов, поддерживающих эти темы. Разговоры про супер-интеллект и ИИ, мол, забавны, но они очень отвлекают от реальной проблемы. И не только широкую публику, но и самих учёных!
- Главная цель - развивать "вертикальные" системы машинного обучения и внедрять их по всему миру. Мы заняты сейчас не этим. Джордан называет их "Искуственная инфраструктура" вместо "Искусственный интеллект"
- Трёп про "компьютер, который станет разумным как человек" увлекает, но это идея шестидесятых. Сейчас мы разрабатываем вовсе не такие системы, мы невероятно далеки от них. Мы сейчас делаем дополнения человеческим возможностям и это и есть задача на ближайшие годы
- "Реальный ИИ" должен заниматься распознаванием низкоуровневых паттернов в нашей жизни, он делает это лучше человека. В финансах, производстве, здравоохранении. Именно это и есть цель и задача учёных.
- В интеллектуальной среде стало беспонтово быть "инженером" чего-то, например термин "социальный инжиниринг" несёт негативный оттенок. А вот как раз инжинирингом нам-то и надо заниматься. А все назвались "учёными". А ведь всё что реально улучшило жизнь людей в последние сто лет было именно инжинирингом.
- Цель создания систем AI/ML не просто в обработке данных, но в создании новых цепочек, соединении новых покупателей и продавцов, в создании совершенно новых рынков
- Всё что сейчас называют AI им не является, не способно к высокуровневой постановке целей и мышлению. Почти всегда AI называют машинное обучение, которому десятки лет.
- Прикольные "ИИ" создающие музыку, тексты, генерящие речь - просто дополнение к способностям человека, не шаг к реальному ИИ. Это хайп, который отвлекает от полезных целей.
- Имитирующий человека ИИ это заблуждение. Мы должны не пытаться сделать замену мясному мешку за рулём машины, а сделать системы вроде роботизированной диспетчерской башни в аэропорту, но для автотрафика
- В конце концов у нас есть шанс сделать разработку и инжиниринг - человекоцентричными, пытаясь поставить идеи счастья человека. Сейчас эта идея вовсе не в центре разработки технологий. И у неё нет названия, говорит Джордан.
Лично мне очень понравились его мысли, а в особенности идея про человекоцентричность. Эта идея лежит на грани технологий и этики, раскрывается мало и часто сваливается либо в левую чушь, либо в алармизм. Лично я планирую инвестировать своё время именно в раскрытии этого аспекта работы технологий и с 2021 запускаю свой курс по "Этике технологий и данных" в Магистратуре ВШЭ по управлению продуктом и маркетингом на основе данных.
