Найти в Дзене
PCR.NEWS

Интерфейс «мозг-компьютер» на основе клавиатуры QWERTY облегчает общение с парализованными людьми

Одно из тяжелых последствий неподвижности и неспособности говорить — потеря возможности рассказать о своих проблемах, задать вопросы, которые тебя беспокоят, дать понять, что ты мыслишь и чувствуешь. Близкие люди, ухаживающие за пациентами, всегда старались придумать способы общения: помните старого Нуартье с внучкой из «Графа Монте-Кристо»? Но узнавать, что хочет сказать человек, по направлению взгляда и с помощью листания словаря в реальной жизни скорее мучительно для обеих сторон, чем увлекательно, и очень непродуктивно. Ситуацию изменили имплантируемые интерфейсы мозг-компьютер — вживленные в мозг сенсорные электроды, которые считывают сигналы нейронов, и алгоритмы, превращающие эти сигналы в буквы. Новое устройство предлагает пациенту представить, что он набирает буквы на клавиатуре со стандартной раскладкой. Его точность выше, чем у моделей, которые распознают воображаемую пациентом устную речь или рукописное письмо. Существуют, но пока в клинических исследованиях. Ранее были пр
Оглавление

Одно из тяжелых последствий неподвижности и неспособности говорить — потеря возможности рассказать о своих проблемах, задать вопросы, которые тебя беспокоят, дать понять, что ты мыслишь и чувствуешь. Близкие люди, ухаживающие за пациентами, всегда старались придумать способы общения: помните старого Нуартье с внучкой из «Графа Монте-Кристо»? Но узнавать, что хочет сказать человек, по направлению взгляда и с помощью листания словаря в реальной жизни скорее мучительно для обеих сторон, чем увлекательно, и очень непродуктивно. Ситуацию изменили имплантируемые интерфейсы «мозг-компьютер» — вживленные в мозг сенсорные электроды, которые считывают сигналы нейронов, и алгоритмы, превращающие эти сигналы в буквы. Новое устройство предлагает пациенту представить, что он набирает буквы на клавиатуре со стандартной раскладкой. Его точность выше, чем у моделей, которые распознают воображаемую пациентом устную речь или рукописное письмо.

Участник исследования «набирает» предложение, представляя движения пальцев, соответствующие раскладке клавиатуры на мониторе. Вероятности символов прогнозируются рекуррентной нейронной сетью (RNN) на основе активности нейронов. Credit: BrainGate, Leigh Hochberg, Daniel Rubin and Justin Jude | Пресс-релиз Nature
Участник исследования «набирает» предложение, представляя движения пальцев, соответствующие раскладке клавиатуры на мониторе. Вероятности символов прогнозируются рекуррентной нейронной сетью (RNN) на основе активности нейронов. Credit: BrainGate, Leigh Hochberg, Daniel Rubin and Justin Jude | Пресс-релиз Nature

Нейрокомпьютерные интерфейсы для общения с парализованными людьми уже существуют?

Существуют, но пока в клинических исследованиях. Ранее были предложены интерфейсы «мозг-компьютер» для набора текста, основанные на различных принципах. Например, в 2017 году несколько человек испытали устройство, которое позволяет пациенту перемещать курсор по таблице с буквами, и кликать на них по очереди, чтобы набрать фразу. В других вариантах отслеживаются и декодируются движения глаз или активность мозга, сопровождающая попытки произнесения слов (пациент не может говорить, но представляет, как произносит слова) или попытки написания текста от руки.

К сожалению, все эти устройства работают медленно и с ошибками, и даже пациенты, не имеющие никакой альтернативы, могут отказываться от коммуникации с их помощью. Междисциплинарная команда BrainGate, которая занимается имплантируемыми интерфейсами «мозг-компьютер» с 2004 года, предположила, что удобнее может быть клавиатура со стандартной раскладкой QWERTY, выведенная на экран перед глазами пациента. В XXI веке логичнее предложить человеку вообразить, что он набирает текст, а не пишет его шариковой ручкой.

Как это работает?

В клиническом исследовании BrainGate2 участвовало два человека: у одного из них был боковой амиотрофический склероз (БАС), у другого травма шейного отдела спинного мозга. Матрицы сенсорных микроэлектродов имплантировали в прецентральную извилину (область мозга, отвечающую за произвольные движения).

Перед участником на дисплее выводили клавиатуру с изображением букв и пальцев, и он пытался выполнять пальцами движения, необходимые для набора текста. Три положения для каждого из десяти пальцев (прямое, слегка согнутое, сильно согнутое) соответствовали буквам латинского алфавита, пробелу и знакам препинания. Электроды регистрировали активность мозга, и затем на полученных данных обучили глубокую нейронную сеть. После этого обученная модель прогнозировала, какой символ человек намеревался набрать, на основе активности его мозга.

И каковы результаты?

Участник с травмой шейного отдела набирал до 110 символов, или 22 слова в минуту — это 81% типичной скорости набора текста на смартфоне. После того, как он набрал всего 30 тренировочных предложений для калибровки устройства, уровень ошибок составил 7%, а в итоге частота ошибочно распознанных слов снизилась до 1,6%. Участник с БАС достиг скорости 47 символов в минуту. Различия между их результатами могут быть связаны как с типом повреждения ЦНС, так и с количеством и расположением электродов (у второго участника их было меньше).

(Можно посмотреть видео, приложенные к статье.)

По сравнению с алгоритмами, распознающими попытки рукописного письма, «клавиатурная» модель реже ошибалась в распознавании округлых гласных букв или похожих по начертанию согласных, таких как r и n. Декодеры звучащей речи также уступали ей в точности.

Авторы статьи считают, что их работа не только облегчит общение с парализованными пациентами, но и может стать шагом к лучшему управлению искусственной рукой, совершающей сложные движения. Но для этого необходимы дальнейшие исследования с участием большего количества людей.

Больше статей о медико-биологических науках на нашем сайте

Подписаться в ВК

Подписаться в Telegram-канал

Темы этого материала связаны с научными исследованиями и результатами опубликованных работ. Информация представлена исключительно в ознакомительных целях. Она не предназначена для постановки диагноза, назначения лечения или принятия медицинских решений.

Материал не содержит медицинских рекомендаций и не должен рассматриваться как руководство к самолечению. Для решения медицинских проблем необходимо обратиться к специалисту.