Миранда Боген — директор-основатель Лаборатории управления искусственным интеллектом Центра демократии и технологий, где она помогает создавать решения, которые могут эффективно регулировать и управлять системами искусственного интеллекта. Она помогала разрабатывать ответственные стратегии искусственного интеллекта в Meta, а ранее работала старшим политическим аналитиком в организации Uptown, которая стремится использовать технологии для продвижения равенства и справедливости.
Вкратце, как вы начали заниматься искусственным интеллектом? Что привлекло вас в этой сфере?
Меня привлекла работа над машинным обучением и искусственным интеллектом, когда я увидела, как эти технологии сталкиваются с фундаментальными дискуссиями об обществе — ценностях, правах и о том, какие сообщества остаются позади. Моя ранняя работа по изучению пересечения ИИ и гражданских прав убедила меня в том, что системы ИИ — это гораздо больше, чем просто технические артефакты, это системы, которые формируются в результате их взаимодействия с людьми, бюрократией и политикой. Я всегда умела переводить внимание между техническими и нетехническими контекстами, и меня воодушевила возможность помочь преодолеть видимость технической сложности, чтобы помочь сообществам с различными видами знаний формировать способ создания ИИ с нуля.
Какой работой вы больше всего гордитесь (в области искусственного интеллекта)?
Когда я впервые начала работать в этой сфере, многим людям все еще нужно было убедиться, что системы искусственного интеллекта могут привести к дискриминационному воздействию на маргинализированные группы населения, не говоря уже о том, что нужно что-то делать с этим вредом. Несмотря на то, что между статус-кво и будущим, в котором с предубеждениями и другими видами вреда будут систематически бороться, все еще существует слишком большой разрыв, я рада, что исследование, проведенное мной и моими коллегами по вопросам дискриминации в персонализированной онлайн-рекламе, и моя работа в отрасли по алгоритмической справедливости помогла привести к значимым изменениям в системе доставки рекламы Meta и прогрессу в сокращении неравенства в доступе к важным экономическим возможностям.
Как вы справляетесь с проблемами технологической индустрии, в которой доминируют мужчины, и, как следствие, индустрии искусственного интеллекта, в которой доминируют мужчины?
Мне посчастливилось работать с феноменальными коллегами и командами, которые были щедры на возможности и искреннюю поддержку, и мы старались привнести эту энергию в любую комнату, в которой оказывались. Во время моего последнего карьерного перехода я была рада, что почти все мои варианты включали работу в командах или внутри организаций, возглавляемых феноменальными женщинами, и я надеюсь, что эта область продолжает поднимать голоса тех, кто традиционно не был сосредоточен на дискуссиях, ориентированных на технологии.
Какой совет вы бы дали женщинам, желающим заняться сферой искусственного интеллекта?
Тот же совет я даю всем, кто спрашивает: найдите поддерживающих менеджеров, консультантов и команды, которые заряжают вас энергией и вдохновляют, которые ценят ваше мнение и точку зрения и которые готовы постоять за вас и вашу работу.
Каковы наиболее актуальные проблемы, с которыми сталкивается ИИ по мере его развития?
На данный момент хорошо известны последствия и вред, которые системы ИИ наносят людям, и одна из самых серьезных проблем заключается в том, чтобы выйти за рамки описания проблемы и перейти к разработке надежных подходов для систематического устранения этого вреда и стимулирования их внедрения. Мы запустили Лабораторию управления искусственным интеллектом в CDT, чтобы добиться прогресса в обоих направлениях.
О каких проблемах следует знать пользователям ИИ?
По большей части в системах искусственного интеллекта по-прежнему отсутствуют ремни безопасности, подушки безопасности и дорожные знаки, поэтому будьте осторожны, прежде чем использовать их для последующих задач.
Каков наилучший способ ответственного создания ИИ?
Лучший способ ответственно создавать ИИ — это проявлять смирение. Подумайте, как определяется успех системы ИИ, над которой вы работаете, кому служит это определение и какой контекст может отсутствовать. Подумайте о том, для кого система может потерпеть неудачу и что произойдет, если это произойдет. И создавайте системы не только с людьми, которые будут их использовать, но и с сообществами, которые будут им подчиняться.
Как инвесторы могут лучше продвигать ответственный ИИ?
Инвесторам необходимо создать возможность для разработчиков технологий действовать более осознанно, прежде чем торопливо выводить на рынок недоделанные технологии. Интенсивное конкурентное давление с целью выпуска новейших, крупнейших и самых блестящих новых моделей искусственного интеллекта приводит к недостаточному инвестированию в ответственную практику. В то время как ничем не сдерживаемые инновации поют заманчивую песню сирены, это мираж, от которого всем будет только хуже.
ИИ — это не волшебство; это просто зеркало, которое показывают обществу. Если мы хотим, чтобы оно отражало что-то другое, нам есть над чем поработать.
Источник: techcrunch.com