Инженеры разработали искусственный синапс таким образом, чтобы они могли точно контролировать прочность электрического тока, протекающего через него, подобно тому, как ион течет между нейронами. Команда построила небольшой чип с искусственными синапсами, изготовленными из кремниевого германия. В симуляциях исследователи обнаружили, что чип и его синапсы могут быть использованы для распознавания образцов почерка с точностью до 95 процентов.
Когда дело доходит до вычислительной мощности, человеческий мозг просто не может быть избит
Упакованные в мягкий, футбольный мяч размером около 100 миллиардов нейронов. В любой момент один нейрон может передавать инструкции тысячам других нейронов через синапсы - промежутки между нейронами, через которые обмениваются нейротрансмиттеры. Есть более 100 триллионов синапсов, которые опосредуют передачу сигналов нейронов в мозг, укрепляя некоторые связи, обрезая других, в процессе, который позволяет мозгу распознавать закономерности, запоминать факты и выполнять другие задачи обучения с молниеносной скоростью.
Исследователи в появляющейся области «нейроморфных вычислений» попытались разработать компьютерные чипы, которые работают как мозг человека. Вместо того, чтобы выполнять вычисления на основе двоичной, вкл / выкл сигнализации, как сегодня делают цифровые чипы, элементы «мозга на чипе» будут работать аналоговым способом, обмениваясь градиентом сигналов или «весами», нейронов, которые активируются различными способами в зависимости от типа и количества ионов, которые протекают через синапс.
Таким образом, небольшие нейроморфные чипы могли бы, подобно мозгу, эффективно обрабатывать миллионы потоков параллельных вычислений, которые в настоящее время возможны только с большими банками суперкомпьютеров. Но одним существенным зависанием на пути к такому портативному искусственному интеллекту был нейронный синапс, который особенно сложно воспроизвести на аппаратных средствах.
Теперь инженеры MIT разработали искусственный синапс таким образом, чтобы они могли точно контролировать прочность электрического тока, протекающего через него, подобно тому, как ионы протекают между нейронами. Команда построила небольшой чип с искусственными синапсами, изготовленными из кремниевого германия. В симуляциях исследователи обнаружили, что чип и его синапсы могут быть использованы для распознавания образцов почерка с точностью до 95 процентов.
Дизайн, опубликованный сегодня в журнале Nature Materials , является важным шагом на пути создания переносных маломощных нейроморфных микросхем для использования в распознавании образов и других задачах обучения.
Исследование проводилось Jeehwan Kim, профессором по специальности карьера в 1947 году на кафедрах машиностроения и материаловедения и инженерии, а также главным исследователем исследовательской лаборатории MIT в лаборатории электроники и микросистемных технологий. Его соавторами являются Шинхьюн Чой (первый автор), Скотт Тан (соавтор), Зефан Ли, Юньчжу Ким, Чаньеол Чой и Ханвул Йон из Массачусетского технологического института, а также Пай-Ю Чен и Шименг Юй из Аризонского государственного университета.
Слишком много путей
Большинство конструкций нейроморфных чипов пытаются эмулировать синаптическое соединение между нейронами с использованием двух проводящих слоев, разделенных «переключающей средой» или синапсоподобным пространством. При приложении напряжения ионы должны перемещаться в переключающей среде для создания проводящих нитей, подобно тому, как изменяется «вес» синапса.
Но было трудно контролировать поток ионов в существующих конструкциях. Ким говорит, что это связано с тем, что большинство переключающих сред, состоящих из аморфных материалов, имеют неограниченные возможные пути, через которые могут двигаться ионы, - это похоже на пачинко, механическую аркадную игру, которая прокладывает маленькие стальные шарики через ряд штифтов и рычагов, которые действуют либо отвлечь, либо вывести шары из машины.
Как и Pachinko, существующие коммутационные среды содержат несколько путей, которые затрудняют предсказание того, где будут проходить ионы. Ким говорит, что может создать нежелательную неравномерность в синапсе.
«Как только вы примените некоторое напряжение, чтобы представить некоторые данные с помощью своего искусственного нейрона, вы должны стереть его и записать его снова точно так же», - говорит Ким. «Но в аморфном твердом теле, когда вы пишете снова, ионы идут в разных направлениях, потому что есть много дефектов. Этот поток меняется, и его трудно контролировать. Это самая большая проблема - неравномерность искусственного синапса».
Совершенное несоответствие
Вместо использования аморфных материалов в качестве искусственного синапса Ким и его коллеги рассматривали однокристаллический кремний, не содержащий дефектов проводящий материал, выполненный из атомов, расположенных в непрерывном упорядоченном выравнивании. Команда стремилась создать точный одномерный дефект линии или дислокацию через кремний, через который ионы могли предсказуемо протекать.
Для этого исследователи начали с пластины кремния, напоминающего, с микроскопическим разрешением, узор из куриной проволоки. Затем они получили аналогичную модель кремниевого германия - материала, который обычно используется в транзисторах - поверх кремниевой пластины. Решетка кремниевого германия несколько больше, чем кремний, и Ким обнаружил, что вместе два совершенно несогласованных материала могут образовывать воронкообразную дислокацию, создавая единственный путь, через который могут течь ионы.
Исследователи изготовили нейроморфный чип, состоящий из искусственных синапсов из кремниевого германия, каждый синапс размером около 25 нанометров в поперечнике. Они прикладывали напряжение к каждому синапсу и обнаружили, что все синапсы проявляют более или менее тот же ток или поток ионов с примерно 4-процентным изменением между синапсами - гораздо более равномерным по сравнению с синапсами, полученными из аморфного материала.
Они также протестировали один синапс в течение нескольких испытаний, применяя одно и то же напряжение более 700 циклов, и обнаружили, что синапс проявляет тот же ток с изменением всего на 1 процент от цикла к циклу.
«Это наиболее унифицированное устройство, которое мы могли бы достичь, что является ключом к демонстрации искусственных нейронных сетей», - говорит Ким.
Написание, признание
В качестве окончательного теста команда Кима исследовала, как будет работать его устройство, если бы оно выполняло реальные задачи обучения - в частности, распознавание образцов почерка, которые исследователи считают первым практическим испытанием для нейроморфных чипов. Такие чипы состоят из «входных / скрытых / выходных нейронов», каждый из которых связан с другими «нейронами» посредством искусственных синапсов на основе нитей.
Ученые считают, что такие стеки нейронных сетей могут быть «научиться». Например, при подаче ввода, который является рукописным «1», с выходом, который называет его «1», определенные выходные нейроны будут активироваться входными нейронами и весами из искусственного синапса. Когда в один и тот же чип подают больше примеров рукописных «1s», одни и те же выходные нейроны могут активироваться, когда они воспринимают сходные функции между разными образцами одной и той же буквы, таким образом, «учатся» по-разному, как это делает мозг.
Ким и его коллеги провели компьютерное моделирование искусственной нейронной сети, состоящей из трех слоев нейронных слоев, связанных через два слоя искусственных синапсов, свойства которых они основаны на измерениях из их фактического нейроморфного чипа. Они загрузили в свои модели десятки тысяч образцов из рукописного набора данных распознавания, обычно используемого конструкторами нейроморфных, и обнаружили, что их аппаратура нейронной сети распознала рукописные образцы в 95% случаев по сравнению с 97-процентной точностью существующих алгоритмов программного обеспечения.
Команда находится в процессе создания рабочего нейроморфного чипа, который может выполнять задачи распознавания рукописного ввода, а не в симуляции, а в действительности. Не смотря на почерк, Ким говорит, что искусственный дизайн синапсов команды позволит гораздо меньшим портативным нейронным сетевым устройствам, которые могут выполнять сложные вычисления, которые в настоящее время возможны только с большими суперкомпьютерами.
«В конечном итоге мы хотим, чтобы чип размером с ноготь заменил один большой суперкомпьютер, - говорит Ким. «Это открывает ступеньку для производства настоящего искусственного оборудования».