Используя массив электродов, чтобы отслеживать работу нескольких участков головного мозга, ученые обучили нейросеть восстанавливать звуки музыки, которую слушает человек. В получившемся аудиофайле вполне можно распознать исходный хит — Another Brick in the Wall.
За последние годы мы встречали немало работ, связанных с «чтением мыслей» — реконструкцией слов, картинок и образов по данным об активности нервных клеток в соответствующих участках мозга. Теперь же нейробиологи из Калифорнийского университета в Беркли сумели восстановить музыкальный трек, который прослушивали добровольцы в процессе мониторинга активности их мозга. Статья об этом опубликована в журнале PLOS Biology.
Как правило, к подобным экспериментам привлекают больных, страдающих тяжелой эпилепсией, припадки которых не удается остановить никаким другим способом, кроме как с помощью электродов, помещенных непосредственно в мозг. Людовик Беллье (Ludovic Bellier) и его коллеги нашли 29 таких пациентов, согласившихся стать добровольцами, и имплантировали им массивы из 2668 микроэлектродов.
Далее участники прослушивали несколько классических песен легендарной британской группы Pink Floyd, пока ученые снимали с электродов информацию об активности разных участков их мозга. Анализ собранных данных показал, что с музыкой коррелировали показания 347 электродов, в основном расположенных в верхней височной и нижней лобной извилинах, а также в складках сенсомоторной коры. Само по себе это неудивительно, поскольку известно, что все эти области вовлечены в восприятие и интерпретацию звуков, включая музыку и речь.
Однако Беллье и его коллегам удалось создать и обучить математическую модель на базе ИИ, которая интерпретировала данные об активности мозга и реконструировала один из исходных музыкальных треков — хит 1979 года Another Brick in the Wall («Еще один кирпич в стене»). Получившийся аудиофайл далек от настоящего хита — слова практически неразличимы, звук доносится будто из бочки, но в целом мелодия и ритм вполне узнаваемы.
Чтобы лучше разобраться в том, какие области мозга участвуют в распознавании разных особенностей музыки, реконструкцию повторили несколько раз, без использования данных от разных групп электродов. Это позволило идентифицировать участок верхней височной извилины, который ответствен за восприятие ритма: его «отключение» приводило к генерации трека без партии ритм-гитары. Вообще, оказалось, что именно эта извилина играет ключевую роль в обработке музыки, и без данных с нее трек получался наименее похожим на исходный.