— Расскажи, как ты попала на эту работу, и чем занимаются научные работники в данной сфере?
— Я училась в магистратуре на когнитивных исследованиях. Параллельно занималась программированием. Одного нашего преподавателя так впечатлили мои проекты, что он пригласил меня в лабораторию. А может его просто впечатлило, как я внимательно слушала. Вообще, я никогда не предполагала, что попаду в науку, и до 25 лет не знала, что существуют научные статьи.
В данной сфере очень много направлений (если мы говорим про мозг) — от нейробиологии до психологии, от работы на улитках и мышах до установки электродов в мозг пациентов, моделирования, разработки интерфейсов мозг—компьютер. Довольно часто исследователи специализируются на узком аспекте и лишь поверхностно в курсе, что происходит у коллег. Если говорить про мою область — зрение, то здесь также есть условное разделение на изучение нейробиологических механизмов зрения у модельных животных (это те, у которых зрительный мозг похож на наш) и изучение аспектов восприятия у людей.
— До интервью ты говорила про другой часовой пояс — в какой стране ты работаешь?
— Я сейчас в США. Переехала вместе с мужем — у него здесь работа, а у меня здесь наиболее сильное научное сообщество. Над проектами работаю удаленно.
— Ты занимаешься разработкой интерфейсов, связывающих мозг и компьютер? Насколько сильно вообще коррелируется изучение мозга и создание ИИ?
— Нет, я не разрабатываю подобные интерфейсы и отношусь к ним пока несколько скептически. В последние пару лет я занимаюсь искусственными нейросетями. Они изменили всю область компьютерного зрения и позволили сделать то, о чём 50 лет только мечтали — научиться по-настоящему распознавать образы.
Понять то, как они это делают — это уже отдельная область исследований. А сопоставить с известными сведениями из нейронаук, понять, где можно использовать нейросеть как модель, а где — как инструмент, чтобы больше узнать о мозге — это как раз то, что я делаю.
Первые ИНС (искусственные нейронные сети), созданные для распознавания букв и цифр, как раз базировались на знаниях о том, как устроена зрительная кора. Теперь, скорее, наоборот — ИИ двигает вперёд нейронауки
Тем не менее, их развитие не слишком коррелирует. ИИ движется вперед семимильными шагами — такая скорость и объемы финансирования нейро и не снились.
— То есть в начале наука, основываясь на знаниях о мозге, создавала ИИ, теперь же ИИ помогает в изучении мозга, верно?
— Да, сейчас так. Но, я думаю, скоро это будет совместное развитие. Есть такое понятие, как компьютерная метафора — это когда для понимания работы мозга учёные берут термины из устройства компьютера. Например, долговременная и оперативная память. И, действительно, ведь потом находят аналоги в мозге. Главное иметь хоть какую-то модель. Разработчики ИИ, в свою очередь, очень любят читать про мозг для вдохновения. У меня есть знакомый, которого я
встречаю на каждой конференции по компьютерному зрению — он как меня увидит, засыпает вопросами вроде: "Расскажи, что ещё такого про зрение известно, чтобы я мог это в наших self-driving автомобилях сделать и оторваться от конкурентов".
— Существует множество мнений о том, на сколько процентов в среднем мы используем мозг. Возможно ли его использование на 100%, что об этом думают нейронауки?
— Это очень забавный миф про использование мозга на какой-то процент. Мозг работает весь. Если не работает, то это уже патология. Вопрос, наверное, в том, какая часть из этих процессов сознательная, но даже не знаю, как это посчитать. Ещё у нейронных связей есть свойство отмирать, если они долгое время не активируются — так мы забываем навыки и знания, которые получили когда-то давно и не применяли.
— Получается, что потеряв какой-то навык, мы будем учиться этому заново, а не вспоминать?
— Нет, не обязательно. Декларативные знания утрачиваются проще, чем мышечная память, например. Сразу оговорюсь, что память — это не моя сфера. Здесь довольно много нюансов: например, можно забыть посреди разговора, о чем говорил — это ошибка кратковременной памяти, а есть люди, у которых нет долговременной памяти — был пациент, которому хирург удалил гиппокамп, после чего помнил только те факты, которые произошли с ним до операции, но совершенно не запоминал новых событий. Как в фильме "50 первых поцелуев".
— Еще о забавных мифах: существует мнение, что по достижении определенного уровня развития ИИ поработит человечество. Есть ли основания у таких опасений, или это всего лишь фантазии?
— Скорее стоит опасаться, что сильный ИИ попадет в руки к людям, которые захотят поработить человечество, правительствам, диктаторам. Уже сейчас довольно много разговоров об этике применения ИИ и демократизации доступа к технологиям.
— Как насчёт внедрения в мозг технологий? Скоро ли станет возможным, например, визуализация мыслей на компьютере?
— Привет Илону Маску с его фантазиями. Вы слышали, он собрал команду нейроученых и хочет сделать чип, который устанавливается в мозг, чтобы передавать мысли и улучшить когнитивные способности человека?
В некотором виде визуализация уже есть — можно положить человека в фМРТ, показать ему ряд картинок, а потом предсказывать, что видел перед собой человек, только смотря на активацию его мозга: мужчину, женщину, море, дом. Довольно грубо, но все же. Была даже какая-то скандальная статья, где исследователи "отгадывали" пин-код от банковской карты испытуемого, который при этом молчал. Один из проектов, которыми я занимаюсь, тоже про визуализацию. С коры головного мозга обезьяны при помощи микроэлектродов записывается активность отдельных нейронов. Затем я включаю нейросеть, задача которой нарисовать такое изображение, чтобы максимальным образом активировать нейрон. Мы можем потом посмотреть, что она нарисовала, и объяснить функцию этого нейрона.
Визуализация на макро и микроуровнях уже есть, но до чтения мыслей ещё далеко
— Говоря об этике, сейчас довольно остро стоит вопрос о правовом регулировании технологий ИИ. Что ты думаешь по этому поводу? Кто, на твой взгляд, должен нести ответственность за правонарушения, совершенные ИИ?
— Думаю, что уже скоро внедрять ИИ в работу сервисов станет гораздо сложнее, так как будет необходима предварительная оценка его безопасности. Это важный вопрос, особенно в сфере автономной техники. Как работает ИИ, в каких моментах он может принять человека за столб, а раковую опухоль за артефакт снимка — до сих сказать с уверенностью нельзя. Хоть уже много чего сделано для интерпретируемого ИИ, каждый день появляются новые архитектуры, у которых задача, в первую очередь — высокий результат. Стабильность при этом проверить сложно, методы визуализации, разработанные для других алгоритмов, могут уже не работать.
Пока ИИ в руках исследователей, он приносит гораздо больше блага, ошибается реже лучших экспертов в диагностике. Но с каждым днём он получает все более широкое применение, соответственно, следует ожидать и некачественной имплементации. Ладно, когда это приложение для состаривания лиц.
Ответственность, прежде всего, должна быть на тех, кто вводит систему в работу. Сами разработчики чаще всего выполняют задачу, поставленную начальством.
— В ближайшее время массовое внедрение технологий небезопасно? Как быть с уже существующими, вроде автопилотируемых авто? Кто должен отвечать за ошибки — сам владелец или разработчики/производитель?
— Вспомнилась профессиональная байка про важность понимания как ИИ принимает решения.
Был случай, когда внедрили систему с искусственным интеллектом для оценки загруженности станции. Система прикидывала пассажиропоток и контролировала вентиляцию. В один прекрасный день система сломалась и перестала подавать свежий воздух. Разработчики долго пытались понять, что же произошло — вроде все так же, как и раньше,
видеотрансляция ведётся, люди ходят. Оказалось, что самым простым способом оценить загруженность станции — было посмотреть на время, что ИИ и выучился делать. А потом часы встали.
Вообще зависит от того, чья ошибка.
Если человек вмешался в работу ИИ, и это привело к ДТП — это вина человека. Если это сбой ИИ — вина поставщика такого авто. Если кто снаружи выскочил под колеса — вина того, кто снаружи
Сейчас каждая авария с участием автопилотируемых автомобилей ярко и с негодованием освещается. Хотя далеко не во всех случаях это вина машины. Да и в целом, стоит сопоставлять количество инцидентов со статистикой при мануальном управлении.
— Как будут обстоять дела с зарплатами и безработицей, когда ИИ заменит человека в работе?
— Какая зарплата для ИИ? Никто же сейчас не платит условной программе Т9 за то, что она слова за нас дописывает.
Тем не менее, некоторые страны говорят, что сокращение рабочих мест за счёт ИИ — повод рассмотреть введение безусловного дохода или повышение пособий по безработице.
— До сих пор ведь было неизвестно, что происходит в мозге в момент рождения мысли. Продвинулась ли наука в этом направлении?
— До сих пор нет однозначного понимания, что такое мысль. Было несколько исследований, где учёные могли предсказать, какое решение примет человек за несколько секунд до того, как он сам осознал, что принял какое-то решение. Может мысли и не рождаются? А всего лишь всплывают из того, чем живёт наш мозг без нашего ведома.
— На основании каких данных ученым удавалось это предсказать? Получается тогда, что мысль — сугубо биологический процесс, менее зависящий от окружающей среды?
— Обычно человека просят принять решение: перед ним предъявляются два стимула (например, изображения с кружочками и полосками), и его просят нажать кнопку, как только он решит, чего ему больше хочется. В это время исследователи записывают мозговую активность. Уже после эксперимента они задаются вопросом: "Предположим, мы не знаем, что он выбрал. Давайте попробуем предсказать, смотря на то, какие области в его мозге и насколько сильно активированы. И чем раньше до нажатия кнопки мы сможем дать уверенный ответ, тем лучше".
Не соглашусь, что мысль не зависит от окружающей среды. Я бы сказала, что окружающая среда в значительной степени формирует мышление. А каждая отдельная мысль (напомню, мы сейчас ведем обсуждение, не договорившись, что такое мысль), является следствием множества факторов — текущего состояния организма, услышанного минуту назад, накопленного знания, приобретенных паттернов мышления и поведения. Поэтому так важно следить за информацией, которая окружает. Я все жду, пока появится понятие информационной экологии. А может уже есть?
Вот этот вопрос про ИИ и про то, чем мы отличаемся, я часто задаю себе. Отличное упражнение на подумать.
— Понятие такое есть, но не слышала, чтобы этот вопрос освещался для широкой общественности. Как ты себе отвечаешь на этот вопрос?
— В последнее время сильно прочувствовала то, насколько язык влияет на мое мышление. В прошлом веке был спор о гипотезе Сепира-Уорфа, которая утверждает, что мышление определяется языком. Сразу возникли вопросы, а что же, у тех, у кого язык менее развит, и мышление хуже?
Я же скорее для себя открыла, насколько моя способность выразить что-либо задана и ограничена языковыми средствами. Пыталась даже отказаться от языка на неделю, чтобы посмотреть на мир «с другой стороны». Советую попробовать — вызывает бурю эмоций и новых открытий. Сейчас, когда понимаю, что какие-то слова оказывают на мое состояние слишком сильное воздействие — медитирую минут двадцать, и как рукой снимает. Раньше считала медитацию средством эзотериков, но от коллег все чаще слышу о том, насколько она полезна в любой области, в том числе и в академической.
— Про определение языком слышала такое мнение, что в будущем мы столкнёмся с тем, что просто-напросто не сможем описать некоторые природные понятия и явления и, соответственно, представить или воспринять их. Что думаешь по этому поводу?
— Мы уже сейчас в такой ситуации. Вокруг нас мир кишит существами, которые видят, слышат и чувствуют то, что нам невозможно представить. При это мы почему-то продолжаем считать, что видим объективную реальность, и если предмет для нас — красный, то это свойство предмета и его истинная и единственная сущность, а не наше восприятие его красным.
— Расскажи о последнем научном открытии в сфере изучения мозга и ИИ, которое произвело на тебя сильное впечатление?
— Сложный вопрос. Когда ты в области — все более-менее ожидаемо, и не остаётся вау-эффекта.
Последнее яркое впечатление было от доклада Вильяма Фримана, который рассказывал о своей мечте — создать микроскоп для движений.
Точно так же, как глаз не может разглядеть микромир, мы не видим и микродвижения. Фриман показал видео, на котором они детектируют еле заметные колебания и увеличивают их в сотни раз. Вот стоит рядом с тобой подъемный кран или сооружение какое, и тебе кажется, что оно стабильно там стоит, а как посмотришь через такой микроскоп — оно ходит во все стороны. И если в одну сторону оно склоняется больше и чаще, то это уже опасно.
Они же делали работу, когда можно было воспроизвести, что говорилось в комнате, лишь по видеозаписи пустой пачки от чипсов. Фольга незаметно колышется, и эти колебания на видео можно увеличить и перевести обратно в звуки
— Что самое сложное в работе научного сотрудника? К чему нужно быть готовым человеку, который хочет заняться наукой в данном направлении?
— Самое сложное в России — это прожить на зарплату научного сотрудника, не опустить руки, а продолжать развиваться — учиться, ездить на международные конференции, читать и писать на английском, выползти из скорлупы своей уютной лаборатории.
В ИИ есть свои особенности. Я постоянно чувствую, что гонюсь не то, что за уходящим поездом, а прямо-таки за взлетающим самолётом. Ну, ничего, скоро создадим ИИ, который будет изучать мозг за нас, а потом разжевывать нам, что он там понял.