Регина Барзилай, профессор Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL), стала первым лауреатом премии Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity. Это новая премия, присуждаемая за выдающиеся #исследования в области искусственного интеллекта.
Барзилай начинала свою карьеру в сфере улучшения обработки естественного языка. Пережив рак молочной железы в 2014 году, женщина переключила свое внимание на алгоритмы машинного обучения для выявления рака и разработки новых лекарств. Церемония вручения заслуженной премии состоится в феврале 2021 года. Ее организацией занимается Ассоциация по развитию искусственного интеллекта (AAAI).
Призовой фонд в размере 1 #миллион долларов, предоставленный китайской компанией онлайн-образования Squirrel AI, ставит награду в один ряд с Нобелевской премией и премией Тьюринга в области компьютерных наук.
В опубликованном на этой неделе на сайте MIT Technology Review интервью Регина Барзилай рассказала о своих эмоциях о награде, а также о надеждах и разочарованиях на пути к созданию искусственного интеллекта.
Поздравляю с заслуженной наградой. Что это значит для вас и для #ИИ в целом?
Спасибо. Вы знаете, есть много областей, где ИИ все еще никак не используется. Мы постоянно пользуемся системами машинного перевода или рекомендательными системами, но никто не думает о них как о причудливых технологиях, никто не спрашивает о них. Но в других сферах нашей жизни, которые имеют решающее значение для нашего благополучия, таких как здравоохранение, ИИ еще не получил признания общества. Я надеюсь, что эта награда и внимание, которое к ней прилагается, помогут изменить мнение людей и позволят им увидеть #возможности - и подтолкнут сообщество разработчиков к следующим шагам.
Какого рода шагам?
Когда #технология перешла от паровой энергии к электричеству, первые попытки принести электричество в промышленность были не очень успешными, потому что люди просто пытались воспроизвести паровые двигатели. Я думаю, что нечто подобное происходит сейчас с ИИ.
Нам нужно решить, как интегрировать его в самые разные сферы. Это не только здравоохранение, но и образование, дизайн материалов, городское планирование и так далее. Конечно, есть еще много работы с технической стороны, включая создание более совершенных алгоритмов. Но мы уже привносим эту технологию в реальный мир.
Сейчас #искусственный интеллект процветает там, где цена неудачи очень низка. Если Google найдет вам неправильный перевод или даст вам неправильную ссылку, ничего страшного не случится; вы можете просто перейти к следующему переводу. Но это не сработает для врача.
Если вы даете пациентам неправильное лечение или не ставите диагноз, это может привести к очень серьезным последствиям. Многие алгоритмы действительно могут делать вещи лучше, чем люди. Но мы всегда доверяем своей интуиции, своему разуму больше, чем тому, чего не понимаем.
Мы должны дать врачам основания доверять ИИ. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов изучает эту проблему, но я думаю, что она очень далека от решения в США или где-либо еще в мире.
В 2014 году у вас был диагностирован рак молочной железы. Это как-то повлияло на ваше отношение к работе?
О, да, конечно. Одна из многих перемен, которые произошли, когда я проходила лечение и проводила огромное количество времени в больнице, заключается в том, что вещи, над которыми я работала тогда, начали казаться тривиальными и совершенно неважными. Я все думала: люди страдают, мы же можем что-нибудь сделать с этим.
Когда я начинала лечение, я спрашивала, что происходит с такими пациентами, как я. С моим типом опухоли, моего возраста, с таким же лечением.
Мне рассказывали, мол: “там-то и там-то было такое клиническое испытание, но вы не совсем подходите под него".
Я же думала о том, что рак груди - очень распространенное заболевание.
Есть так много пациентов, с таким большим количеством накопленных данных. Почему мы этим не пользуемся?
Но вы не сможете запросто получить эту информацию из американской системы здравоохранения. Данные есть, но они хранятся в текстовом виде. И поэтому я решила использовать #НЛП, чтобы получить доступ к необходимой информации. Я не могу представить себе другой области, где люди добровольно стали бы делиться имеющимися данными. Но именно это и происходит в медицине.
Ухватились ли больницы за возможность более эффективно использовать эти данные?
Потребовалось некоторое время, чтобы найти врача, который будет работать со мной.
Я говорила людям: если у вас есть какие-то проблемы, я постараюсь их решить. Мне не нужно финансирование. Просто дайте мне задачу и данные.
Но мне потребовалось некоторое время, чтобы найти сотрудников. Знаете, я не была особо популярным персонажем.
От этой работы по НЛП я затем перешла к прогнозированию риска для пациентов на основе маммограмм. С помощью системы распознавания изображений алгоритмы могли с неплохой точностью определить, заболеете вы раком или нет, и как ваша болезнь, вероятно, будет прогрессировать.
А помогли бы эти инструменты, если бы они были доступны, когда вам поставили диагноз?
Несомненно. Мы можем проверить этот алгоритм на моих маммограммах, сделанных ещё до моего диагноза. Раковые клетки уже были там вы— можете четко определить эти изменения. Это не какое-то чудо — рак не растет со вчерашнего дня до сегодняшнего. Это довольно долгий процесс. Есть признаки в ткани, но человеческий глаз имеет ограниченную способность обнаруживать то, что может быть очень маленькими узорами. В моем случае это было бы заметно еще два года назад.
Почему доктор этого не заметил?
Это трудная задача. На каждой маммограмме есть белые пятна, которые могут быть или не быть раком, и врач должен решить, какое из этих белых пятен нуждается в биопсии. Он должен балансировать, действуя на интуиции, а не вредить пациенту, делая биопсии, которые не нужны. Но это именно тот тип решений, которые управляемый данными ИИ может помочь нам принимать гораздо более систематическим образом.
Что возвращает нас к проблеме доверия. Нужно ли нам вносить технические исправления, чтобы сделать инструменты более доступными, или же все-таки обучать людей, которые их используют?
Это отличный вопрос. Некоторые решения очень легко объяснить человеку. Если ИИ обнаруживает рак на изображении, вы можете максимально приблизить и в деталях рассмотреть те области, которые выделил алгоритм. Но если вы попросите машину, как мы все чаще делаем, делать то, что человек не может, что она сможет показать вам?
Это как заставить собаку, которая чувствует запахи гораздо лучше нас, объяснять, как именно ей это удается. У нас просто нет такой возможности. Я думаю, что по мере того, как машины становятся все более совершенными, это действительно важный вопрос. Какие аргументы, объяснения, обучение убедило бы вас, если бы вы сами не смогли справиться с какой-то задачей?
Так стоит ли нам ждать, пока ИИ сможет полностью объяснять себя и свои решения?
Нет. Подумайте о том, как мы теперь отвечаем на вопросы жизни и смерти. Большинство медицинских вопросов - например, о том, как вы будете реагировать на то или иное лечение, решаются с помощью статистических моделей. Но они могут привести к ошибкам. Ни один из них не совершенен.
То же самое и с ИИ. Я не думаю, что стоит ждать появления идеального алгоритма. Тем более, что это произойдет в ближайшее время. Говоря о применении искусственного интеллекта, отталкиваться стоит от того, использовать его сильные стороны и компенсировать недостатки.
Ну и последний вопрос. Как считаете, почему ИИ до сих пор не оказал большого влияния на борьбу с #covid-19 ?
ИИ не сможет в один момент взять и решить все большие проблемы, которые у нас есть. Но небольшие победы все-таки есть. Когда все несущественные медицинские услуги были ограничены в начале года, мы использовали инструменты искусственного интеллекта, чтобы определить, кому из онкологических пациентов в Бостоне все еще необходима ежегодная маммография.
Но главная причина, по которой ИИ не стал более полезным, заключается не в недостатке технологий, а в недостатке данных. Вы знаете, я вхожу в руководящую группу J-Clinic Массачусетского технологического института, Центра искусственного интеллекта в здравоохранении, и в апреле многие из нас говорили: мы действительно хотим что-то сделать, где мы можем получить #данные? Но мы не смогли их раздобыть. Это было невозможно. Даже сейчас, шесть месяцев спустя, эта проблема остается актуальной.
Вторая причина заключается в том, что мы не были готовы. Даже в нормальных условиях, когда люди не испытывают стресса, трудно внедрить инструменты искусственного интеллекта в какой-либо процесс и убедиться, что все это должным образом регулируется. В нынешнем кризисе у нас просто нет такой возможности.
Вы знаете, я понимаю, почему врачи консервативны: на кону жизнь людей. Но я очень надеюсь, что это послужит сигналом к тому, насколько мы не готовы быстро реагировать на новые угрозы. И, хотя лично я понимаю, что ИИ - это #технология будущего , пока мы не поймем, как ей доверять, мы не сдвинемся с мертвой точки.
Источник: MIT Technology Review
